Mengoperasionalkan AI di Sektor Publik: Mengapa Model Bahasa Kecil (SLM) Adalah Kunci Efisiensi dan Keamanan
Pelajari bagaimana Model Bahasa Kecil (SLM) mengatasi tantangan keamanan data, konektivitas, dan infrastruktur untuk implementasi AI yang efektif di sektor publik.
Di tengah pesatnya perkembangan kecerdasan buatan (AI) di berbagai industri, lembaga-lembaga sektor publik menghadapi tekanan untuk mempercepat adopsinya. Namun, institusi pemerintah memiliki kendala unik terkait keamanan, tata kelola data, dan operasional yang membedakan mereka dari sektor swasta. Dalam konteks ini, model bahasa kecil atau Small Language Models (SLM) yang dibuat khusus menawarkan jalur yang menjanjikan untuk mengoperasionalkan AI di lingkungan yang penuh batasan ini.
Sebuah studi Capgemini mengungkapkan bahwa 79 persen eksekutif sektor publik di seluruh dunia mengkhawatirkan keamanan data AI. Angka ini sangat masuk akal mengingat sensitivitas tinggi data pemerintah dan kewajiban hukum yang mengaturnya. Seperti yang dikatakan Han Xiao, wakil presiden AI di Elastic, "Lembaga pemerintah harus sangat ketat tentang jenis data apa yang mereka kirim ke jaringan. Ini menetapkan banyak batasan pada cara mereka memikirkan dan mengelola data mereka." Kebutuhan mendasar akan kontrol atas informasi sensitif adalah salah satu dari banyak faktor yang mempersulit penerapan AI, terutama jika dibandingkan dengan asumsi operasional standar di sektor swasta.
Tantangan Operasional Unik di Sektor Publik
Ketika entitas sektor swasta memperluas implementasi AI, mereka umumnya mengasumsikan beberapa kondisi, seperti konektivitas berkelanjutan ke cloud, ketergantungan pada infrastruktur terpusat, penerimaan transparansi model yang tidak lengkap, dan pembatasan pergerakan data yang terbatas. Namun, bagi banyak institusi negara, menerima kondisi ini bisa sangat berisiko bahkan tidak mungkin dilakukan. Lembaga pemerintah harus memastikan bahwa data mereka tetap berada di bawah kendali penuh, informasi dapat diperiksa dan diverifikasi, serta gangguan operasional dijaga seminimal mungkin.
Selain itu, sistem mereka seringkali harus beroperasi di lingkungan dengan konektivitas internet yang terbatas, tidak andal, atau bahkan tidak tersedia sama sekali. Kompleksitas-kompleksitas ini seringkali menghambat banyak proyek percontohan AI sektor publik yang menjanjikan untuk melampaui fase eksperimen. “Banyak orang meremehkan tantangan operasional AI,” kata Xiao. “Sektor publik membutuhkan AI untuk bekerja secara andal pada semua jenis data, dan kemudian dapat berkembang tanpa gangguan. Kontinuitas operasi seringkali diremehkan.”
Keterbatasan Infrastruktur dan Akses GPU
Survei Elastic terhadap para pemimpin sektor publik menemukan bahwa 65 persen mengalami kesulitan menggunakan data secara berkelanjutan dalam waktu nyata dan dalam skala besar. Keterbatasan infrastruktur memperparah masalah ini. Organisasi pemerintah mungkin juga kesulitan mendapatkan Graphics Processing Units (GPU) yang digunakan untuk melatih dan mengakses model AI yang kompleks. Seperti yang ditunjukkan Xiao, “Pemerintah tidak sering membeli GPU, tidak seperti sektor swasta—mereka tidak terbiasa mengelola infrastruktur GPU. Jadi, mengakses GPU untuk menjalankan model adalah hambatan bagi sebagian besar sektor publik.”
Hal ini menciptakan kebutuhan akan solusi AI yang tidak hanya kuat, tetapi juga dirancang untuk beroperasi secara efisien dalam batasan infrastruktur yang ada, bahkan tanpa ketergantungan cloud yang masif. Penekanan pada implementasi lokal dan efisiensi sumber daya menjadi sangat penting. Solusi seperti ARSA AI Box Series dapat mengatasi masalah ini dengan menyediakan pemrosesan AI di tingkat edge, mengurangi ketergantungan pada infrastruktur pusat yang mahal dan kompleks.
SLM: Model yang Lebih Kecil dan Lebih Praktis
Banyaknya persyaratan yang tidak dapat dinegosiasikan di sektor publik membuat Large Language Models (LLM) menjadi tidak praktis. Namun, SLM dapat ditempatkan secara lokal, menawarkan keamanan dan kontrol yang lebih besar. SLM adalah model AI khusus yang umumnya menggunakan miliaran parameter, bukan ratusan miliar, sehingga jauh lebih sedikit menuntut komputasi daripada LLM terbesar. Sektor publik tidak perlu membangun model yang semakin besar yang ditempatkan di lokasi terpusat dan jarak jauh.
Sebuah studi empiris menemukan bahwa SLM berkinerja sama baiknya atau bahkan lebih baik daripada LLM dalam tugas-tugas tertentu. SLM memungkinkan informasi sensitif digunakan secara efektif dan efisien sembari menghindari kompleksitas operasional dalam memelihara model besar. Xiao mengatakannya demikian: "Mudah menggunakan ChatGPT untuk melakukan pemeriksaan ejaan. Sangat sulit menjalankan model bahasa besar Anda sendiri dengan lancar di lingkungan tanpa akses jaringan." ARSA Technology, yang berpengalaman sejak 2018 dalam membangun sistem AI & IoT produksi, memahami nuansa ini dan menawarkan solusi AI khusus yang mempertimbangkan kendala tersebut.
Kemampuan Pencarian Unggul dengan AI
“Ketika orang di sektor publik mendengar AI, mereka mungkin berpikir tentang ChatGPT. Tetapi kita bisa jauh lebih ambisius,” kata Xiao. “AI dapat merevolusi cara pemerintah mencari dan mengelola sejumlah besar data yang mereka miliki.” Melampaui chatbot mengungkapkan salah satu peluang AI yang paling segera: peningkatan pencarian yang dramatis. Seperti banyak organisasi, sektor publik memiliki tumpukan data tidak terstruktur—termasuk laporan teknis, dokumen pengadaan, notulen rapat, dan faktur. Namun, AI saat ini dapat memberikan hasil yang bersumber dari media campuran, seperti PDF yang dapat dibaca, hasil pemindaian, gambar, spreadsheet, dan rekaman, serta dalam berbagai bahasa.
Semua ini dapat diindeks oleh sistem bertenaga SLM untuk memberikan respons yang disesuaikan dan untuk menyusun teks kompleks dalam bahasa apa pun, sembari memastikan keluaran yang sesuai secara hukum. “Sektor publik memiliki banyak data, dan mereka tidak selalu tahu bagaimana menggunakan data ini. Mereka tidak tahu apa kemungkinannya,” kata Xiao. Bahkan lebih kuat lagi, AI dapat membantu pegawai pemerintah menafsirkan data yang mereka akses. “AI saat ini dapat memberi Anda pandangan yang sama sekali baru tentang cara memanfaatkan data tersebut,” kata Xiao. Sebuah SLM yang terlatih dengan baik dapat menafsirkan norma hukum, mengekstrak wawasan dari konsultasi publik, mendukung pengambilan keputusan eksekutif berbasis data, dan meningkatkan akses publik terhadap layanan dan informasi administratif. Hal ini dapat berkontribusi pada peningkatan dramatis dalam cara sektor publik menjalankan operasinya, misalnya melalui analitik video AI yang canggih untuk pemantauan dan keamanan.
Janji Model Bahasa Kecil (SLM) untuk Efisiensi dan Kontrol
Fokus pada SLM menggeser percakapan dari seberapa komprehensif model itu menjadi seberapa efisiennya. LLM menimbulkan biaya kinerja dan komputasi yang signifikan dan memerlukan perangkat keras khusus yang tidak mampu dibeli oleh banyak entitas publik. Meskipun memerlukan beberapa pengeluaran modal, SLM lebih tidak intensif sumber daya daripada LLM, sehingga cenderung lebih murah dan mengurangi dampak lingkungan.
Lembaga sektor publik seringkali menghadapi persyaratan audit yang ketat, dan algoritma SLM dapat didokumentasikan dan disertifikasi sebagai transparan. Beberapa negara, khususnya di Eropa, juga memiliki regulasi privasi seperti GDPR yang dapat dirancang untuk dipenuhi oleh SLM. Pelatihan data yang disesuaikan menghasilkan hasil yang lebih terarah, mengurangi kesalahan, bias, dan halusinasi yang rentan terjadi pada AI. Seperti yang diungkapkan Xiao, “Model bahasa besar menghasilkan teks berdasarkan apa yang dilatihkan, jadi ada tanggal batas ketika mereka dilatih. Jika Anda bertanya tentang sesuatu setelah itu, itu akan berhalusinasi. Kami dapat mengatasi ini dengan memaksa model untuk bekerja dari sumber yang terverifikasi.” Risiko juga diminimalkan dengan menyimpan data di server lokal, atau bahkan pada perangkat tertentu. Ini bukan tentang isolasi, melainkan tentang otonomi strategis untuk memungkinkan kepercayaan, ketahanan, dan relevansi. Dengan memprioritaskan model spesifik tugas yang dirancang untuk lingkungan yang memproses data secara lokal, dan dengan terus memantau kinerja dan dampaknya, organisasi sektor publik dapat membangun kemampuan AI yang langgeng yang mendukung keputusan di dunia nyata. “Jangan mulai dengan chatbot; mulailah dengan pencarian,” saran Xiao. “Banyak dari apa yang kita anggap sebagai kecerdasan AI sebenarnya tentang menemukan informasi yang tepat.”
Artikel ini diproduksi oleh Insights, bagian konten khusus dari MIT Technology Review. Artikel ini tidak ditulis oleh staf editorial MIT Technology Review. Artikel ini diteliti, dirancang, dan ditulis oleh penulis, editor, analis, dan ilustrator manusia. Ini termasuk penulisan survei dan pengumpulan data untuk survei. Alat AI yang mungkin telah digunakan terbatas pada proses produksi sekunder yang melewati tinjauan manusia menyeluruh.
Untuk mengeksplorasi bagaimana solusi AI dan IoT yang praktis dapat diimplementasikan di lingkungan sektor publik Anda, jangan ragu untuk menghubungi tim ARSA.