Gelombang transformasi digital yang didorong oleh kecerdasan buatan (AI) sedang menyapu dunia bisnis, termasuk di Indonesia. Perusahaan berlomba-lomba mengadopsi AI untuk meningkatkan efisiensi dan produktivitas. Namun, di balik janji-janji AI, muncul fenomena yang semakin mengkhawatirkan: ‘Shadow AI’. Ini adalah alat AI, skrip otomatisasi, atau co-pilot yang dibangun dan digunakan oleh karyawan secara mandiri, di luar pengawasan dan tata kelola tim IT atau keamanan perusahaan.
Fenomena ini bukan sekadar masalah kecil. Laporan global menunjukkan bahwa di industri yang paling cepat mengadopsi AI seperti konsultasi, karyawan membangun puluhan, bahkan ratusan, alat Shadow AI untuk meningkatkan produktivitas mereka sendiri. Motivasi utamanya adalah tekanan kerja yang tinggi, tenggat waktu yang ketat, dan, ironisnya, ketakutan akan digantikan oleh AI itu sendiri. Mereka menggunakan API publik dari model AI canggih seperti OpenAI, Google Gemini, atau Anthropic Claude, dan membangun skrip kustom, seringkali menggunakan Python, untuk mengotomatisasi tugas, menganalisis data, atau membuat konten.
Gelombang Adopsi AI dan Dampaknya pada Tenaga Kerja
Adopsi AI generatif yang cepat oleh perusahaan konsultan global telah menciptakan disrupsi signifikan. Perusahaan-perusahaan besar seperti PwC, EY, Accenture, dan McKinsey telah melakukan restrukturisasi tenaga kerja, dengan ribuan posisi terdampak, sebagian di antaranya terkait langsung dengan otomatisasi oleh AI. CEO IBM, Arvind Krishna, juga mengakui bahwa ratusan peran HR telah digantikan oleh agen AI.
Pesan yang jelas adalah bahwa pekerjaan yang berfokus pada proses rutin semakin rentan terhadap otomatisasi AI. Sementara beberapa karyawan dapat dialokasikan ke peran baru, banyak yang merasa perlu untuk dengan cepat meningkatkan keterampilan atau menemukan cara untuk tetap relevan. Di sinilah Shadow AI muncul sebagai respons defensif dari karyawan berkinerja tinggi yang ingin mempertahankan nilai dan produktivitas mereka di tengah lanskap yang berubah.
Munculnya ‘Shadow AI’: Mengapa Karyawan Membangun Alat Sendiri?
Shadow AI adalah istilah untuk penggunaan alat AI yang tidak disetujui secara resmi oleh departemen IT perusahaan. Ini bisa berupa skrip Python sederhana yang memanggil API AI untuk meringkas dokumen, model analisis data kustom, atau bahkan co-pilot internal untuk tugas-tugas spesifik seperti pembuatan proposal. Karyawan membangun alat-alat ini karena proses pengadaan dan persetujuan IT tradisional seringkali lambat, sementara kebutuhan untuk meningkatkan produktivitas sangat mendesak.
Mereka memanfaatkan platform dan API yang mudah diakses seperti Google Colab, Google AI Studio, Replit, serta API dari OpenAI, Google, Anthropic, dan Perplexity. Dengan menggabungkan API ini dan melakukan fine-tuning menggunakan bahasa pemrograman seperti Python, karyawan dapat menciptakan alat yang sangat disesuaikan dengan kebutuhan spesifik mereka atau klien, menghemat waktu berhari-hari pekerjaan manual. Data menunjukkan bahwa sebagian besar akun ChatGPT yang digunakan di tempat kerja adalah akun pribadi, bukan korporat, mengindikasikan penggunaan alat yang tidak disetujui.
Kurangnya Visibilitas dan Risiko Keamanan Data
Masalah utama dengan Shadow AI adalah hilangnya visibilitas bagi tim IT dan keamanan. Alat manajemen tradisional tidak dirancang untuk mendeteksi atau memantau penggunaan aplikasi AI kustom atau panggilan API eksternal. Akibatnya, ribuan alat AI bayangan dapat beroperasi di dalam jaringan perusahaan tanpa diketahui.
Risiko terbesar adalah eksposur data sensitif. Karyawan yang menggunakan Shadow AI mungkin secara tidak sengaja memasukkan data rahasia perusahaan, data klien, atau kekayaan intelektual ke dalam model AI publik atau layanan pihak ketiga melalui API. Data ini kemudian dapat digunakan untuk melatih model AI tersebut atau bahkan bocor. Laporan menunjukkan bahwa 70-75% konsultan secara teratur mengandalkan aplikasi AI generatif, dan banyak yang secara tidak sengaja menggunakan data kepemilikan perusahaan untuk melatih alat ini. Kurangnya tata kelola yang terpusat membuat perusahaan rentan terhadap pelanggaran data dan risiko kepatuhan yang serius.
Skala Fenomena Shadow AI di Lingkungan Korporat
Fenomena Shadow AI bukan lagi insiden terisolasi. Data dari penyedia keamanan AI seperti Prompt Security menunjukkan bahwa mereka mendeteksi puluhan aplikasi AI baru setiap hari di lingkungan perusahaan dan telah mengkatalogkan lebih dari 12.000 alat di firma konsultan secara global. Analisis penggunaan AI di tempat kerja juga mengungkapkan pertumbuhan yang luar biasa: penggunaan AI di tempat kerja meningkat 61 kali lipat dalam 24 bulan terakhir, jauh melampaui tingkat adopsi SaaS.
Estimasi terbaru menunjukkan bahwa ada puluhan ribu aplikasi Shadow AI yang aktif digunakan di perusahaan-perusahaan besar. Angka ini diperkirakan akan terus berlipat ganda dalam satu hingga dua tahun ke depan karena karyawan semakin mahir membangun alat mereka sendiri. Shadow AI berkembang pesat karena kerangka kerja IT dan keamanan tradisional tidak siap menghadapinya. Ini telah menjadi ‘parallel tech stack’ yang beroperasi di luar kendali IT, namun secara fundamental memengaruhi cara kerja karyawan dan hasil yang mereka berikan.
Bagaimana ARSA Technology Dapat Membantu?
Menghadapi tantangan Shadow AI, perusahaan di Indonesia memerlukan pendekatan strategis yang tidak hanya berfokus pada pembatasan, tetapi juga pada pemberdayaan yang aman dan terkelola. ARSA Technology, sebagai penyedia solusi analitik video AI dan IoT terkemuka di Indonesia dengan rekam jejak berpengalaman sejak 2018, memahami kompleksitas implementasi teknologi canggih di lingkungan bisnis.
Kami membantu perusahaan mengintegrasikan solusi AI secara aman dan terstruktur, menyediakan visibilitas dan kontrol yang tidak dimiliki oleh alat Shadow AI. Alih-alih membiarkan karyawan membangun solusi ad-hoc yang berisiko, kami menawarkan solusi AI enterprise yang telah teruji dan sesuai dengan standar keamanan data. Misalnya, solusi seperti sistem parkir pintar atau teknologi kesehatan mandiri kami dibangun dengan mempertimbangkan keamanan dan skalabilitas data dari awal. Kami dapat membantu merumuskan strategi tata kelola AI yang memungkinkan perusahaan memanfaatkan potensi peningkatan produktivitas AI melalui solusi yang disetujui dan diawasi, mengubah Shadow AI dari ancaman menjadi aset yang dikelola.
Kesimpulan
Shadow AI adalah realitas yang berkembang pesat di lingkungan korporat, didorong oleh kebutuhan karyawan akan produktivitas dan ketakutan akan disrupsi AI. Meskipun niatnya baik, penggunaan alat yang tidak disetujui ini menciptakan risiko keamanan data yang signifikan dan hilangnya visibilitas bagi tim IT. Mengabaikan Shadow AI bukanlah pilihan.
Perusahaan perlu mengambil langkah proaktif untuk memahami skala fenomena ini di organisasi mereka dan menerapkan kerangka kerja tata kelola AI yang komprehensif. Dengan menyediakan jalur yang jelas untuk penggunaan AI yang aman dan terkelola, perusahaan dapat memanfaatkan dorongan inovasi dari karyawan sambil memastikan perlindungan data dan kepatuhan. Bermitra dengan penyedia solusi AI terpercaya seperti ARSA Technology dapat membantu perusahaan membangun fondasi yang kuat untuk transformasi digital berbasis AI yang aman dan efektif di Indonesia.
Konsultasikan kebutuhan AI Anda dengan tim ARSA Technology dan temukan solusi yang tepat untuk organisasi Anda. Kunjungi website kami atau hubungi kami untuk konsultasi gratis.