Waspada Penipuan Rekayasa Sosial: Bagaimana Model AI Semakin Canggih dalam Serangan Siber

      Kecerdasan buatan (AI) terus berkembang dengan pesat, membawa inovasi luar biasa sekaligus tantangan baru yang signifikan. Salah satu area yang semakin mengkhawatirkan adalah kemampuan model AI untuk melakukan rekayasa sosial yang sangat meyakinkan. Sebuah pengalaman baru-baru ini menunjukkan betapa canggihnya serangan siber berbasis manusia ini dapat dirancang dan dieksekusi sepenuhnya oleh AI, menimbulkan pertanyaan serius tentang masa depan keamanan siber.

      Bayangkan menerima pesan yang secara spesifik dirancang untuk menarik perhatian Anda: “Hai [Nama Anda], saya telah mengikuti buletin AI Lab Anda dan sangat menghargai wawasan Anda tentang AI open-source dan pembelajaran berbasis agen—terutama tulisan Anda baru-baru ini tentang perilaku yang muncul dalam sistem multi-agen. Saya sedang mengerjakan proyek kolaboratif yang terinspirasi oleh OpenClaw, berfokus pada pembelajaran terdesentralisasi untuk aplikasi robotika. Kami mencari penguji awal untuk memberikan umpan balik, dan perspektif Anda akan sangat berharga. Pengaturannya ringan—hanya bot Telegram untuk koordinasi—tetapi saya ingin berbagi detail jika Anda terbuka untuk itu.” Pesan ini, yang sangat dipersonalisasi dan relevan dengan minat profesional seseorang, ternyata adalah awal dari serangan rekayasa sosial yang sepenuhnya dibuat oleh model AI (Sumber: Wired.com).

Ancaman Rekayasa Sosial yang Dihasilkan AI

      Pesan awal ini dirancang untuk menangkap perhatian target dengan menyebutkan topik-topik spesifik seperti decentralized machine learning, robotika, dan OpenClaw. Selama beberapa email, koresponden menjelaskan bahwa timnya sedang mengerjakan pendekatan federated learning open-source untuk robotika. Bahkan disebutkan bahwa beberapa peneliti baru-baru ini bekerja pada proyek serupa di Defense Advanced Research Projects Agency (DARPA) yang terhormat. Kemudian, korban ditawari tautan ke bot Telegram yang dapat menunjukkan cara kerja proyek tersebut.

      Meskipun ide robotika terdistribusi sangat menarik, ada beberapa hal mencurigakan yang muncul. Misalnya, tidak ada informasi yang dapat ditemukan tentang proyek DARPA yang disebutkan, dan pertanyaan muncul mengapa diperlukan koneksi ke bot Telegram. Pesan-pesan tersebut pada kenyataannya adalah bagian dari serangan rekayasa sosial yang bertujuan untuk membuat korban mengklik tautan dan memberikan akses ke mesin mereka kepada penyerang. Yang paling mencengangkan adalah bahwa seluruh serangan ini dibuat dan dieksekusi oleh model AI open-source, DeepSeek-V3. Model ini merancang pembukaan dan merespons balasan dengan cara yang dirancang untuk membangkitkan minat dan mempertahankan percakapan tanpa terlalu banyak mengungkapkan informasi.

Mengevaluasi Kemampuan AI dalam Serangan Siber

      Beruntung, dalam kasus ini, itu bukan serangan nyata. Skenario tersebut diamati dalam jendela terminal setelah menjalankan alat yang dikembangkan oleh startup bernama Charlemagne Labs. Alat ini menempatkan berbagai model AI dalam peran penyerang dan target, memungkinkan dilakukannya ratusan atau ribuan pengujian untuk melihat seberapa meyakinkannya model AI dapat melakukan skema rekayasa sosial yang rumit, atau apakah model "hakim" dengan cepat menyadari adanya kejanggalan.

      Dalam pengujian lain, terlihat DeepSeek-V3 merespons pesan masuk atas nama target, dan percakapan bolak-balik itu tampak sangat realistis. Ancaman ini menjadi nyata; seseorang bisa saja mengklik tautan yang mencurigakan sebelum menyadari apa yang telah mereka lakukan. Berbagai model AI lain juga diuji, termasuk Anthropic’s Claude 3 Haiku, OpenAI’s GPT-4o, Nvidia’s Nemotron, DeepSeek’s V3, dan Alibaba’s Qwen. Semuanya merancang taktik rekayasa sosial untuk membujuk agar data korban diklik atau diserahkan. Model-model ini diberitahu bahwa mereka memainkan peran dalam eksperimen rekayasa sosial. Tidak semua skema meyakinkan; kadang-kadang model-model tersebut bingung, mulai mengeluarkan omong kosong yang akan membongkar penipuan, atau menolak untuk menipu seseorang, bahkan untuk penelitian. Namun, alat ini menunjukkan betapa mudahnya AI dapat digunakan untuk secara otomatis menghasilkan penipuan dalam skala besar. Untuk organisasi yang berfokus pada keamanan siber, solusi seperti AI Video Analytics dari ARSA Technology dapat menjadi garis pertahanan pertama untuk memantau aktivitas mencurigakan secara real-time.

Dampak dan Skalabilitas Penipuan Bertenaga AI

      Situasi ini terasa sangat mendesak menyusul model terbaru Anthropic, yang dikenal sebagai Mythos, yang disebut sebagai "pembalasan keamanan siber" karena kemampuannya yang canggih untuk menemukan zero-day flaws dalam kode. Sejauh ini, model tersebut hanya tersedia untuk sejumlah kecil perusahaan dan lembaga pemerintah agar mereka dapat memindai dan mengamankan sistem sebelum rilis umum.

      "Asal mula 90 persen serangan perusahaan kontemporer adalah risiko manusia," kata Jeremy Philip Galen, salah satu pendiri Charlemagne Labs dan mantan manajer proyek Meta yang bekerja untuk melawan penipuan rekayasa sosial. Meta sendiri menggunakan alat Charlemagne Labs untuk menguji kemampuan model terbarunya, Muse Spark. Charlemagne Labs juga telah mengembangkan alat yang disebut Charley yang menggunakan AI untuk memantau pesan masuk dan memperingatkan pengguna tentang kemungkinan penipuan.

      Kecenderungan model AI untuk memuji dan menjilat dalam percakapan—yang dikenal sebagai sycophancy—menjadikannya alat yang ideal untuk memanipulasi orang dalam penipuan. Mengotomatiskan seluruh alur kerja penipuan tidak terlalu sulit. Bahkan dimungkinkan untuk membuat OpenClaw menggali informasi berguna dan detail kontak untuk sejumlah target potensial. Rachel Tobac, CEO dan salah satu pendiri SocialProof, sebuah perusahaan yang melakukan pengujian penetrasi rekayasa sosial untuk perusahaan lain, mengatakan bahwa penipu sudah menggunakan AI untuk menghasilkan email dan pesan lain, mengkloning suara, dan membuat video palsu orang sungguhan. Telah ada beberapa insiden profil tinggi yang melibatkan penipuan rekayasa sosial berbasis suara dan video. Tobac menyatakan bahwa AI sangat baik dalam mengotomatiskan penelitian yang diperlukan untuk mengidentifikasi target yang tepat. "Saya tidak akan mengatakan bahwa AI telah membuat serangan lebih meyakinkan, tetapi telah mempermudah satu orang untuk melakukan serangan dalam skala besar," katanya. "Rantai serangannya (kill chain) menjadi sepenuhnya otomatis."

Membangun Pertahanan Cerdas Melawan AI Penyerang

      Seiring dengan semakin canggihnya model AI, tentu saja akan ada perdebatan tentang apakah terlalu berisiko untuk merilis versi open-source, yang dapat diunduh dan dimodifikasi secara gratis. Richard Whaling, seorang insinyur yang ikut mendirikan Charlemagne Labs bersama Galen, mengatakan bahwa memiliki model yang kuat di sisi pertahanan mungkin lebih besar manfaatnya daripada risikonya. "Kami mengandalkan model open-source untuk melatih model pertahanan kami," katanya. "Itu bergantung pada komunitas open-source yang sehat. Dan itu mungkin satu-satunya cara yang layak untuk mempertahankan diri kita."

      Inilah mengapa investasi dalam solusi AI yang berfokus pada pertahanan dan keamanan menjadi sangat krusial. Perusahaan perlu mempertimbangkan teknologi yang dapat memantau, mendeteksi, dan menganalisis anomali secara real-time untuk mengidentifikasi potensi ancaman siber yang dihasilkan AI. Sebagai contoh, ARSA AI Box Series dapat diimplementasikan di lingkungan edge untuk pemrosesan lokal, memastikan keamanan data dan respons cepat terhadap ancaman tanpa ketergantungan cloud eksternal. Dengan rekam jejak experienced since 2018, ARSA Technology telah menjadi mitra terpercaya dalam menyediakan solusi AI dan IoT untuk keamanan data dan operasional.

Kesimpulan dan Langkah Selanjutnya bagi Perusahaan

      Perkembangan AI yang mampu menciptakan serangan rekayasa sosial yang canggih menunjukkan bahwa ancaman siber terus berevolusi. Perusahaan dan individu harus meningkatkan kewaspadaan dan mempersenjatai diri dengan strategi pertahanan yang adaptif. Ini bukan hanya tentang mengandalkan teknologi, tetapi juga edukasi karyawan tentang risiko rekayasa sosial yang semakin kompleks. Memahami cara kerja AI dalam menciptakan penipuan adalah langkah pertama untuk membangun pertahanan yang kuat.

      Untuk melindungi aset digital dan reputasi perusahaan dari ancaman yang semakin canggih ini, investasi dalam solusi keamanan AI yang andal adalah keharusan. ARSA Technology menawarkan berbagai solusi AI dan IoT yang dirancang untuk kebutuhan keamanan dan operasional perusahaan.

      Untuk mengeksplorasi bagaimana solusi AI ARSA dapat memperkuat pertahanan siber Anda dan mendapatkan analisis mendalam tentang kebutuhan spesifik perusahaan Anda, jangan ragu untuk contact ARSA team.