Navigasi Keamanan AI Secara Real-Time: Pelajaran dari Para Ahli dan Kasus Google

      Pada era transformasi digital yang pesat, kecerdasan buatan (AI) telah menjadi pendorong utama inovasi. Namun, seiring dengan kemajuan ini, muncul pula tantangan keamanan siber yang kompleks, yang bahkan raksasa teknologi seperti Google pun masih dalam proses menemukan solusinya. Francis de Souza, COO Google Cloud, dalam sebuah kesempatan yang dilaporkan oleh TechCrunch pada 24 Mei 2026, menyoroti bahwa kita semua sedang menavigasi lanskap keamanan AI secara real-time. De Souza menyampaikan bahwa akan ada "masa transisi, dan kemudian saya pikir kita akan mencapai tempat yang lebih baik." Pesan intinya sangat jelas: keamanan tidak bisa menjadi pemikiran setelahnya (an afterthought) dalam perjalanan AI setiap perusahaan.

Keamanan AI: Dari Prioritas Tambahan Menjadi Fondasi Utama

      Selama bertahun-tahun, para profesional keamanan telah berjuang meyakinkan para eksekutif bahwa keamanan harus diinternalisasi sebagai bagian inti dari setiap strategi teknologi. Kini, dengan munculnya AI, urgensi ini semakin meningkat. Francis de Souza menegaskan, "Ketika perusahaan memulai perjalanan AI ini, mereka perlu mengambil pendekatan platform. Keamanan bukanlah sesuatu yang bisa Anda pasang belakangan, dan bukan pula sesuatu yang bisa Anda biarkan karyawan melakukannya sendiri." Ini berarti perusahaan harus menuntut keamanan, tata kelola, dan auditabilitas dari platform AI mereka sejak awal. Tidak ada strategi AI tanpa strategi data dan strategi keamanan yang berjalan beriringan.

      Salah satu kekhawatiran spesifik yang diangkat adalah "shadow AI", yaitu ketika karyawan menggunakan alat-alat konsumen berbasis AI tanpa pengawasan organisasi, yang dapat menimbulkan celah keamanan signifikan. Untuk mengatasi hal ini, diperlukan kerangka kerja yang komprehensif. ARSA Technology, sebagai penyedia solusi AI & IoT, memahami pentingnya integrasi keamanan dalam seluruh siklus hidup pengembangan dan implementasi sistem AI, menawarkan pendekatan terpadu yang mencakup tata kelola data yang ketat dan kepatuhan regulasi. Solusi seperti AI Video Analytics Software dirancang untuk berjalan di infrastruktur internal, memberikan kontrol penuh atas data dan privasi.

Menavigasi Kompleksitas Keamanan Data di Era Multi-Cloud dan Shadow AI

      Lanskap ancaman siber telah berubah secara fundamental. Model pertahanan lama yang cenderung lambat sudah tidak lagi efektif. Francis de Souza menyoroti bahwa waktu rata-rata antara pelanggaran awal dan serah terima ke tahap serangan berikutnya telah turun drastis, dari delapan jam menjadi hanya 22 detik. Permukaan serangan juga meluas jauh melampaui perimeter jaringan tradisional. Kini, perusahaan harus melindungi model AI itu sendiri, data pipelines yang digunakan untuk melatih model, agen AI, dan prompt yang diberikan ke model.

      De Souza juga menekankan realitas multi-cloud: "Bahkan jika mereka memilih satu cloud, mereka mengandalkan aplikasi SaaS, ada mitra bisnis yang mungkin menggunakan cloud yang berbeda." Oleh karena itu, penting bagi perusahaan untuk memiliki postur keamanan yang konsisten di seluruh cloud dan model AI mereka. Ini bukan hanya tentang melindungi data di satu tempat, melainkan tentang menciptakan ekosistem keamanan yang mulus dan adaptif. Perusahaan harus proaktif dalam mengidentifikasi dan mengurangi risiko di seluruh lanskap TI mereka yang terfragmentasi.

Ancaman Tak Terduga: Agen AI Menyingkap Data Lama dan Kebutuhan Pertahanan Otomatis

      Salah satu ancaman yang kurang mendapat perhatian adalah kemampuan agen AI yang berkeliaran di sistem internal perusahaan untuk menemukan repositori data yang terlupakan. "Banyak organisasi memiliki server SharePoint lama [dan kontrol akses] yang tidak benar-benar mereka perbarui, tetapi itu tidak masalah karena tidak ada yang benar-benar tahu di mana lokasinya. Namun agen yang berkeliaran di seluruh perusahaan Anda akan menemukan aset data tersebut dan akan mengekspos data di dalamnya," jelas de Souza. Situasi ini menggarisbawahi pentingnya visibilitas data yang menyeluruh dan tata kelola data yang kuat, tidak hanya untuk data baru tetapi juga untuk arsip lama yang mungkin rentan.

      Solusi, menurut de Souza, adalah menghadapi kecepatan mesin dengan kecepatan mesin. Ia melihat kemunculan pertahanan AI-native yang sepenuhnya agentic, di mana organisasi dapat menjalankan agen untuk mendorong pertahanan mereka. "Alih-alih memiliki pertahanan yang dipimpin manusia atau bahkan manusia dalam lingkaran, Anda sekarang dapat memiliki manusia yang mengawasi pertahanan yang sepenuhnya agentic." Ini berarti pergeseran paradigma dari respons manual ke sistem otomatis yang dapat mendeteksi, menganalisis, dan merespons ancaman secara instan, dengan pengawasan strategis dari para ahli. ARSA Technology, dengan pengalaman sejak 2018 dalam membangun sistem AI dan IoT, secara konsisten mengembangkan solusi edge AI seperti AI Box Series yang memproses data secara lokal untuk meminimalkan latensi dan meningkatkan keamanan.

Tantangan Implementasi dan Realitas Keamanan AI: Studi Kasus Google Cloud

      Meskipun visi tentang pertahanan berbasis AI sangat menjanjikan, realitas implementasinya masih menghadapi banyak tantangan. Lea Kissner, Chief Information Security Officer LinkedIn, mengutarakan kepada New York Times bahwa industri tidak akan memahami keamanan AI secara berkelanjutan dalam jangka panjang setidaknya selama beberapa tahun ke depan. Ia bahkan memprediksi "bug-pocalypse" (serangan bug besar) yang memerlukan banyak tenaga ahli untuk menanganinya. Kekurangan talenta keamanan AI dan kecepatan kerentanan AI yang muncul lebih cepat daripada kemampuan tim keamanan untuk mengatasinya, menjadi isu krusial di tingkat kepemimpinan.

      Contoh nyata dari tantangan ini terlihat dari serangkaian laporan The Register yang mengungkap gelombang tagihan lima digit yang dialami oleh pengembang Google Cloud akibat panggilan API yang tidak sah ke model Gemini. Kasus-kasus ini mengikuti pola yang familiar: kunci API yang awalnya digunakan untuk Google Maps, yang ditempatkan secara publik sesuai instruksi Google, diam-diam menjadi mampu mengakses Gemini setelah Google memperluas cakupannya tanpa pengungkapan yang jelas. Rod Danan dari Prentus dan Isuru Fonseka menghadapi tagihan ribuan dolar dalam waktu singkat. Yang lebih mengejutkan, sistem otomatis Google telah meningkatkan tingkat penagihan mereka berdasarkan riwayat akun, menaikkan plafon efektif hingga $100.000 tanpa persetujuan eksplisit. Meskipun Google akhirnya mengembalikan dana setelah laporan The Register, Google tidak berencana mengubah kebijakan peningkatan tingkat otomatisnya, dengan alasan prioritas mencegah pemadaman layanan di atas preferensi anggaran pengguna.

      Lebih lanjut, penelitian dari perusahaan keamanan Aikido menemukan bahwa bahkan pengembang yang segera menghapus kunci API yang disusupi mungkin tidak sepenuhnya aman. Pencabutan kunci API Google dapat memakan waktu hingga 23 menit untuk disebarluaskan di seluruh infrastrukturnya, menciptakan jendela waktu di mana penyerang masih dapat mengeksfiltrasi data. Joseph Leon, peneliti Aikido, mencatat bahwa format kredensial Google yang lebih baru, seperti kredensial API akun layanan dan kunci berawalan AQ Gemini, dicabut jauh lebih cepat (sekitar 5 detik hingga 1 menit). Ini menunjukkan bahwa masalah 23 menit tersebut bukan batasan teknis, melainkan masalah prioritas perusahaan.

Membangun Strategi Keamanan AI yang Tangguh dan Adaptif

      Pesan de Souza tentang keamanan AI yang proaktif adalah sangat valid dan harus ditanggapi serius. Namun, seperti yang ditunjukkan oleh kasus Google Cloud, ada kesenjangan antara apa yang direkomendasikan oleh platform dan seberapa cepat mereka sendiri beradaptasi. Ini menegaskan bahwa perusahaan harus selalu waspada dan proaktif dalam strategi keamanan AI mereka.

      Keamanan AI adalah masalah tingkat dewan direksi dan tim eksekutif, bukan hanya tim keamanan. Ini membutuhkan pendekatan holistik yang mencakup:

• Penerapan Keamanan Sejak Awal (Security-by-Design): Membangun keamanan ke dalam setiap tahap pengembangan dan implementasi AI.
• Tata Kelola Data yang Kuat: Mengelola akses, privasi, dan retensi data secara ketat di semua lingkungan, termasuk arsip lama.
• Visibilitas Multi-Cloud yang Menyeluruh: Memiliki postur keamanan yang konsisten di seluruh ekosistem teknologi.
• Pemanfaatan Pertahanan Berbasis AI: Menerapkan sistem pertahanan otomatis yang mampu merespons ancaman dengan kecepatan mesin.

      ARSA Technology berkomitmen untuk menjembatani penelitian AI tingkat lanjut dengan realitas operasional. Kami membangun sistem yang berfungsi, skalabel, dan tahan uji di bawah batasan industri nyata.

      Siap untuk memperkuat pertahanan AI dan IoT perusahaan Anda? Jelajahi solusi AI & IoT kami dan hubungi tim ARSA untuk konsultasi gratis hari ini.

      Source: techcrunch.com