Kontroversi Aplikasi Pengenalan Wajah 'Mobile Fortify' DHS: Pelajaran untuk Implementasi AI yang Bertanggung Jawab

      Departemen Keamanan Dalam Negeri Amerika Serikat (DHS) baru-baru ini merilis informasi yang lebih detail mengenai "Mobile Fortify", sebuah aplikasi pengenalan wajah yang digunakan oleh agen imigrasi federal untuk mengidentifikasi individu di lapangan, termasuk imigran tanpa dokumen dan warga negara AS. Pengungkapan ini, termasuk nama perusahaan di balik aplikasi tersebut, dimuat dalam "AI Use Case Inventory 2025" milik DHS, sebuah laporan yang wajib diterbitkan secara berkala oleh lembaga federal.

      Dokumen inventaris ini mencantumkan dua entri untuk Mobile Fortify, satu untuk Bea Cukai dan Perlindungan Perbatasan (CBP) dan satu lagi untuk Imigrasi dan Penegakan Bea Cukai (ICE), keduanya dalam tahap "penyebaran" (deployment). CBP menyatakan bahwa Mobile Fortify mulai "beroperasi" pada awal Mei tahun lalu, sementara ICE mendapatkan akses pada 20 Mei 2025. Tanggal akses untuk ICE ini menarik, karena laporan keberadaan aplikasi tersebut oleh 404 Media telah muncul sekitar sebulan sebelumnya. Inventaris ini juga mengidentifikasi vendor aplikasi sebagai NEC, sebuah detail yang sebelumnya tidak diketahui publik. NEC sendiri mengiklankan solusi pengenalan wajahnya, "Reveal", yang diklaim mampu melakukan pencarian satu-ke-banyak atau pencocokan satu-ke-satu terhadap basis data berukuran berapa pun.

Pengungkapan Aplikasi Pengenalan Wajah 'Mobile Fortify'

      Detail yang dirilis oleh DHS mengungkapkan bahwa NEC adalah vendor utama di balik teknologi pengenalan wajah untuk Mobile Fortify. Sebuah kontrak senilai $23,9 juta antara NEC dan DHS dari tahun 2020 hingga 2023 menyebutkan bahwa DHS menggunakan produk pencocokan biometrik NEC untuk "kuantitas wajah tidak terbatas, pada platform perangkat keras tidak terbatas, dan di lokasi tidak terbatas." Sementara CBP menyebut NEC sebagai vendor tunggal, ICE mencatat bahwa aplikasi tersebut dikembangkan sebagian secara internal. Ini menunjukkan adanya kombinasi antara teknologi komersial dan pengembangan kustom dalam sistem pemerintah.

      Tujuan utama aplikasi ini, menurut CBP dan ICE, adalah untuk mempercepat konfirmasi identitas seseorang. ICE secara khusus menekankan kegunaannya di lapangan, di mana petugas dan agen sering kali bekerja dengan informasi terbatas dan perlu mengakses berbagai sistem yang terpisah. Aplikasi ini mampu menangkap wajah, sidik jari "tanpa kontak", dan foto dokumen identitas. Data ini kemudian dikirim ke CBP untuk diproses oleh "sistem pencocokan biometrik pemerintah" yang menggunakan kecerdasan buatan (AI) untuk mencocokkan wajah dan sidik jari dengan catatan yang ada, lalu mengembalikan kemungkinan kecocokan beserta informasi biografis. Selain itu, ICE juga mengekstraksi teks dari dokumen identitas untuk "pemeriksaan tambahan".

Teknologi di Balik Pengawasan Biometrik

      Di inti Mobile Fortify adalah kemampuan analitik video berbasis AI untuk pemrosesan biometrik. Sistem ini mengubah gambar wajah dan sidik jari menjadi pola data unik yang dapat dibandingkan dengan basis data yang sangat besar dalam hitungan detik. Kecepatan dan akurasi AI dalam melakukan pencocokan satu-ke-banyak menjadi krusial dalam skenario operasional seperti penegakan hukum atau kontrol perbatasan. Solusi serupa juga banyak digunakan di sektor swasta untuk berbagai keperluan, seperti sistem akses kontrol keamanan atau otentikasi identitas.

      Teknologi analitik video AI modern memungkinkan deteksi dan pelacakan objek secara real-time, termasuk identifikasi individu dan kendaraan, serta analisis perilaku. Namun, tantangan besar muncul ketika teknologi ini diintegrasikan ke dalam operasi lapangan yang kompleks, di mana faktor lingkungan dan variasi data dapat memengaruhi akurasi. Penting untuk memastikan bahwa teknologi tersebut dikalibrasi dengan baik dan memiliki mekanisme fallback yang kuat untuk mencegah kesalahan identifikasi.

Implikasi Privasi dan Penggunaan Data Sensitif

      Salah satu aspek paling sensitif dari pengungkapan ini adalah sumber data yang digunakan untuk melatih atau menyempurnakan AI Mobile Fortify. CBP menyatakan bahwa "Informasi Vetting/Lintas Batas/Informasi Pelancong Terpercaya" digunakan untuk tujuan tersebut, namun tidak merinci apakah untuk pelatihan, penyempurnaan, atau evaluasi. Program-program seperti TSA PreCheck dan Global Entry, yang termasuk dalam "Trusted Traveler Programs" CBP, melibatkan penyerahan data pribadi yang ekstensif oleh warga negara AS untuk mendapatkan kemudahan perjalanan. Penggunaan data ini untuk melatih sistem pengenalan wajah oleh agen imigrasi menimbulkan pertanyaan serius tentang persetujuan, batas-batas penggunaan data, dan potensi penyalahgunaan.

      Kasus-kasus yang dilaporkan semakin memperkeruh situasi. Seorang wanita di Minnesota mengklaim hak istimewa Global Entry dan TSA PreCheck-nya dicabut setelah berinteraksi dengan seorang agen federal yang mengatakan mereka memiliki "pengenalan wajah." Dalam kasus lain yang diajukan oleh negara bagian Minnesota, seorang individu yang dihentikan dan ditahan oleh agen federal diberitahu, "Siapa pun pemilik terdaftar [kendaraan ini] akan mengalami kesulitan saat bepergian setelah ini." Insiden-insiden ini menyoroti risiko nyata terhadap privasi dan kebebasan individu ketika data sensitif seperti biometrik digunakan tanpa pengawasan yang transparan dan akuntabel. Pendekatan privacy-by-design harus menjadi landasan dalam pengembangan dan penerapan teknologi semacam ini.

Kesenjangan Kepatuhan dan Tantangan Implementasi AI

      Pengungkapan DHS juga menyoroti kesenjangan serius dalam kepatuhan terhadap pedoman pemerintah terkait penerapan AI. Menurut panduan dari Office of Management and Budget (OMB), yang dikeluarkan sebelum aplikasi ini dinyatakan diterapkan untuk CBP atau ICE, lembaga federal diwajibkan untuk menyelesaikan penilaian dampak AI (AI impact assessment) sebelum menyebarkan kasus penggunaan berimpak tinggi. Baik CBP maupun ICE mengakui bahwa Mobile Fortify adalah aplikasi "berimpak tinggi" dan "telah disebarkan," namun ICE menyatakan bahwa pengembangan protokol pemantauan masih "dalam proses" dan akan mengidentifikasi potensi dampak selama penilaian dampak AI.

      Situasi ini menunjukkan adanya ketidakselarasan antara pedoman dan praktik, yang dapat menimbulkan risiko hukum dan reputasi yang signifikan. Implementasi teknologi AI, terutama yang menyentuh ranah privasi dan kebebasan sipil, memerlukan kerangka kerja yang kuat untuk tata kelola, transparansi, dan akuntabilitas. Perusahaan yang menyediakan seri AI Box ARSA untuk solusi analitik video edge computing misalnya, menekankan pentingnya pemrosesan data sensitif secara lokal dan kepatuhan terhadap peraturan privasi seperti GDPR/PDPA.

Pelajaran bagi Adopsi Teknologi AI & IoT yang Bertanggung Jawab

      Kasus Mobile Fortify menawarkan pelajaran penting bagi organisasi mana pun yang mempertimbangkan adopsi solusi AI dan IoT berskala besar:

Prioritaskan Kepatuhan Hukum dan Etika: Pastikan semua pedoman pemerintah dan standar etika dipatuhi sebelum penyebaran. Penilaian dampak privasi dan AI tidak boleh menjadi pertimbangan setelah* fakta.

• Transparansi adalah Kunci: Lembaga dan vendor harus transparan tentang bagaimana data dikumpulkan, digunakan, dilatih, dan bagaimana keputusan dibuat oleh AI. Ini membangun kepercayaan publik.
• Perencanaan Penanganan Risiko yang Komprehensif: Identifikasi dan mitigasi risiko potensial, termasuk kesalahan identifikasi dan bias algoritmik, serta sediakan mekanisme banding atau koreksi.
• Kerangka Tata Kelola AI yang Matang: Kembangkan protokol pemantauan yang jelas, audit rutin, dan proses peninjauan berkelanjutan untuk memastikan bahwa sistem AI beroperasi seperti yang diharapkan dan tidak menimbulkan konsekuensi yang tidak diinginkan.

      Penggunaan AI dan IoT dalam pengawasan dan penegakan hukum memang menawarkan potensi efisiensi yang besar. Namun, potensi ini tidak boleh mengorbankan hak-hak dasar dan privasi individu. Untuk solusi sistem parkir cerdas atau pengawasan industri, ARSA Technology yang telah berpengalaman sejak 2018 selalu menekankan pendekatan yang memprioritaskan privasi dan kepatuhan dalam setiap inovasinya.

      Jika Anda sedang menjajaki solusi AI & IoT yang andal, efisien, dan mematuhi standar privasi global, tim kami siap membantu. Jelajahi solusi ARSA yang relevan dan dapatkan konsultasi gratis untuk memahami bagaimana teknologi kami dapat mendukung tujuan bisnis Anda secara bertanggung jawab.

      Sumber: https://www.wired.com/story/mobile-fortify-face-recognition-nec-ice-cbp/