Kontrol Manusia Untuk Keputusan Otomatis AI Agent Sesuai Ekspektasi OJK

Sebuah AI agent yang terhubung ke core banking bisa menyiapkan pembatalan tagihan dalam tiga detik. Yang menentukan apakah sistem itu layak masuk produksi adalah apa yang terjadi pada detik keempat: siapa yang menekan tombol commit, apa yang dia lihat sebelum menekannya, dan apakah jejak keputusan itu masih bisa dibuka enam bulan kemudian saat auditor internal bertanya. ARSA membangun agentic workflow dengan gerbang persetujuan manusia pada setiap operasi tulis, dan artikel ini menjelaskan mengapa titik itu yang paling diperiksa regulator di Indonesia.

MASALAH

Agen Yang Punya Akses Tulis Mengubah Profil Risiko Bank

Perbedaan antara chatbot dan AI agent adalah hak tulis. Chatbot menghasilkan kalimat yang bisa diabaikan, sedangkan agent menghasilkan perubahan status di sistem yang menjadi sumber kebenaran bagi nasabah, akuntansi, dan pelaporan ke regulator.

Kesalahan agent pada alur baca saja berakhir sebagai jawaban yang keliru. Kesalahan agent pada alur tulis berakhir sebagai limit kredit yang naik tanpa dasar, rekening yang diblokir keliru, atau jurnal yang harus dikoreksi ke belakang. Tim risiko biasanya baru menyadari selisih kelas ini setelah proof of concept berjalan dan seseorang bertanya siapa yang bertanggung jawab jika model salah. Pertanyaan itu tidak punya jawaban teknis. Jawabannya harus arsitektural, diputuskan sebelum konektor pertama dibuat.

REGULASI

Apa Yang Diminta OJK Dan UU PDP Tentang Keputusan Otomatis

OJK menempatkan pengawasan manusia sebagai salah satu dari tiga prinsip inti tata kelola AI perbankan, dan UU Pelindungan Data Pribadi memberi nasabah hak menolak keputusan yang murni otomatis. Dua ketentuan ini bertemu tepat di titik yang sama, yaitu keputusan yang berdampak pada nasabah.

Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia yang diluncurkan OJK pada 29 April 2025 disusun di atas tiga prinsip: keandalan, akuntabilitas, dan pengawasan manusia. Panduan itu meminta mekanisme human in the loop untuk keputusan kritis, titik eskalasi yang jelas, serta program audit AI berkala yang mencakup evaluasi performa model dan penilaian dampak terhadap nasabah. Panduan ini juga mendorong pembentukan Komite AI yang melibatkan fungsi hukum, kepatuhan, risiko, data science, keamanan siber, dan layanan nasabah, serta mengelompokkan kasus penggunaan ke dalam empat tingkat risiko.

Di sisi hukum, Pasal 10 UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi memberi subjek data hak mengajukan keberatan atas keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk profiling, yang menimbulkan akibat hukum atau berdampak signifikan. Sebuah bank yang mengotomasi persetujuan kredit mikro sepenuhnya harus siap menjelaskan dasar keputusan itu kepada nasabah yang keberatan. Menjaga satu langkah otorisasi manusia membuat pertanyaan itu jauh lebih mudah dijawab, karena ada orang yang memang memutuskan dan ada catatan tentang apa yang dia lihat.

ARSITEKTUR

Gerbang Persetujuan Ditanam Di Arsitektur, Tidak Di Pengaturan

Pada sistem yang ARSA bangun, agent menyiapkan transaksi dan manusia yang melakukan commit. Konektor bersifat baca saja secara default, dan setiap operasi tulis dipentaskan untuk persetujuan eksplisit sebelum masuk ke sistem tujuan. Tidak ada mode tulis otonom yang bisa diaktifkan.

Perbedaannya penting saat tekanan proyek datang. Gerbang yang berupa opsi konfigurasi akan dimatikan pada minggu kedelapan pilot, ketika antrean persetujuan dianggap memperlambat operasional dan seseorang punya akses admin. Gerbang yang menjadi bagian dari alur data tidak punya sakelar untuk dimatikan, sehingga keputusan mempercepat proses harus diambil sebagai perubahan desain yang terdokumentasi, melewati Komite AI dan fungsi kepatuhan.

Alur kerjanya lurus: korpus dokumen, embedding, vector store lokal, model, gerbang persetujuan, lalu sistem tujuan. Integrasi ke ERP, CRM, sistem tiket, dan document management dibangun melalui konektor Model Context Protocol, termasuk untuk model dan perangkat keras yang tidak disuplai ARSA.

JEJAK AUDIT

Tiga Hal Yang Harus Terekam Setiap Kali Agen Bertindak

Jejak audit yang berguna bagi auditor berisi tiga lapis informasi. Dashboard yang hanya menampilkan jumlah transaksi yang disetujui tidak cukup untuk merekonstruksi satu keputusan tunggal.

Usulan Transaksi Yang Utuh

Isi persis dari perubahan yang diusulkan agent, dalam bentuk field dan nilai, beserta stempel waktu saat usulan dibuat. Usulan yang ditolak disimpan dengan status yang sama nilainya dengan yang disetujui, karena pola penolakan adalah sinyal paling awal bahwa model bergeser.

Identitas Penyetuju Dan Waktunya

Siapa yang menyetujui, dengan peran apa, dan berapa lama jeda antara usulan dan persetujuan. Jeda rata-rata dua detik pada seribu transaksi adalah tanda bahwa persetujuan sudah menjadi formalitas, dan angka itu akan terbaca oleh auditor.

Konteks Sumber Yang Dipakai

Dokumen, baris data, atau saldo yang menjadi dasar usulan, tersimpan sebagai referensi yang bisa dibuka kembali. Tanpa ini, penjelasan kepada nasabah yang mengajukan keberatan berhenti pada kalimat bahwa sistem memutuskan demikian.

CAKUPAN

Yang Dilakukan Dan Yang Tidak Dilakukan Sistem Ini

Penetapan batas di awal menghemat waktu lebih banyak daripada demo mana pun. Tabel berikut memisahkan kemampuan yang memang ada dari hal yang sering diasumsikan ada.

RESIDENSI DATA

Di Mana Model Dan Dokumen Boleh Berada

Bagi bank umum, lokasi sistem elektronik adalah persoalan izin yang tunduk pada aturan regulator. POJK No. 11/POJK.03/2022 tentang Penyelenggaraan Teknologi Informasi oleh Bank Umum mengatur penempatan pusat data dan pusat pemulihan bencana, dan penempatan di luar wilayah Indonesia memerlukan persetujuan OJK dengan kriteria serta proses permohonan yang diatur pada Pasal 35 dan Pasal 36.

Konsekuensinya langsung untuk proyek AI agent. Mengirim isi percakapan nasabah atau kutipan mutasi rekening ke endpoint model pihak ketiga di luar negeri membuka pertanyaan yang jauh lebih besar daripada nilai proyeknya. ARSA menjalankan seluruh pipeline di infrastruktur pelanggan, tanpa dokumen yang menyentuh API eksternal di titik mana pun. Untuk organisasi yang memilih perangkat siap pakai, ARSA Sovereign mulai dari $26.900 untuk sistem 48 GB dan $44.900 untuk sistem 96 GB, sudah termasuk tiga tahun dukungan, pembaruan model, dan fleet management, dan dapat dioperasikan sepenuhnya air gapped.

TAHAPAN

Cara Memulai Tanpa Membakar Anggaran Setahun

Setiap pekerjaan dimulai dari feasibility assessment berbayar selama dua minggu, yang menghasilkan diagnosis operasional, penilaian kelayakan teknis terhadap data dan infrastruktur Anda, model biaya, serta rekomendasi lanjut atau berhenti.

Biaya feasibility assessment dipotong penuh dari nilai proyek jika Anda berkontrak dalam 90 hari. Jika jawabannya adalah proyek ini tidak layak dibangun, ARSA menyampaikannya beserta alasannya. Rincian tahapan lain ada di halaman layanan.

Pertanyaan Yang Sering Diajukan

Apa Itu AI Agent Development Dalam Konteks Perbankan

AI agent development adalah pembangunan alur kerja yang membaca data dari sistem Anda, menyusun langkah, lalu menyiapkan tindakan pada sistem tujuan. Dalam konteks perbankan, bagian yang paling menentukan kelayakannya adalah gerbang otorisasi manusia sebelum tindakan itu dieksekusi, karena tanpa gerbang tersebut sistem menghasilkan keputusan otomatis yang berdampak langsung pada nasabah.

Apakah OJK Melarang Keputusan Otomatis Sepenuhnya

Tidak ada larangan menyeluruh. Panduan tata kelola AI perbankan OJK yang terbit 29 April 2025 meminta pengawasan manusia yang memadai dan mekanisme human in the loop untuk keputusan kritis, terutama yang memengaruhi nasabah, kepatuhan, dan risiko operasional, sehingga tingkat kontrol menyesuaikan klasifikasi risiko kasus penggunaannya.

Bisakah Agen Menulis Ke Core Banking Tanpa Persetujuan

Tidak pada sistem yang ARSA bangun. Konektor bersifat baca saja secara default dan setiap operasi tulis dipentaskan untuk persetujuan manusia sebelum commit, tanpa opsi untuk mengaktifkan mode otonom. Ini keputusan arsitektur yang berlaku di seluruh produk ARSA.

Apakah Data Nasabah Kami Keluar Dari Jaringan

Tidak. Retrieval, inferensi, dan fine tuning berjalan di infrastruktur yang Anda kendalikan. Jika ARSA yang menjalankan atas nama Anda, bentuknya instance single tenant di region yang Anda pilih, dan perangkat Sovereign dapat dioperasikan tanpa koneksi keluar sama sekali.

Bagaimana Jika Kami Sudah Memakai Model Di Cloud

Pertanyaannya adalah apakah Anda perlu berhenti dan atas dasar apa. Tiga alasan yang biasanya mendorong perpindahan adalah residensi data, biaya pada skala besar, dan risiko model dihentikan vendor. Jika ketiganya tidak berlaku pada Anda, cloud adalah tempat yang wajar untuk bertahan dan ARSA akan mengatakannya.

Siapa Yang Bertanggung Jawab Jika Agen Salah

Orang yang menyetujui transaksi, dan itulah alasan gerbang persetujuan dipertahankan. Struktur ini menjaga akuntabilitas tetap berada pada pejabat berwenang sesuai kewenangannya, sementara jejak audit menunjukkan informasi apa yang tersedia baginya saat keputusan diambil.

Langkah Berikutnya

Jika bank atau lembaga keuangan Anda sedang merancang AI agent yang menyentuh sistem inti, mulailah dari diagnosis yang menetapkan batas kewenangan agen sebelum konektor pertama ditulis. Pelajari cakupan pekerjaan retrieval privat, agentic workflow, fine tuning, dan integrasi MCP di halaman LLM And AI Agent Development, atau hubungi tim ARSA untuk menjadwalkan feasibility assessment.

Sources:
– Tata Kelola Kecerdasan Artifisial Perbankan Indonesia, OJK
– Siaran Pers Peluncuran Tata Kelola Kecerdasan Artifisial Perbankan Indonesia
– UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi
– POJK No. 11/POJK.03/2022 tentang Penyelenggaraan Teknologi Informasi oleh Bank Umum
– OJK Rilis Panduan Tata Kelola Kecerdasan Artifisial, Dorong Bank Membentuk Komite AI