Dalam era digital yang serba cepat, Artificial Intelligence (AI) telah menjadi tulang punggung berbagai inovasi, mulai dari sistem keamanan canggih hingga otomatisasi industri. Namun, seperti teknologi lainnya, AI memiliki keterbatasan. Salah satu tantangan terbesar adalah ketika model AI dihadapkan pada data yang sangat berbeda dari data yang digunakan untuk melatihnya – ini yang dikenal sebagai data Out-of-Distribution (OOD).
Ketika sistem AI, terutama Deep Neural Networks (DNNs), menerima input OOD, mereka cenderung membuat prediksi yang salah namun dengan tingkat keyakinan yang tinggi. Bayangkan sistem pengenalan objek yang dilatih hanya dengan gambar mobil dan motor, lalu tiba-tiba melihat becak. AI mungkin akan salah mengklasifikasikan becak sebagai mobil atau motor dengan yakin, padahal itu adalah jenis objek yang sama sekali baru baginya. Inilah mengapa pendeteksian OOD menjadi krusial untuk memastikan keandalan AI dalam skenario dunia nyata yang dinamis.
Apa Itu Out-of-Distribution (OOD) Detection?
Pendeteksian OOD adalah mekanisme yang dirancang untuk mengidentifikasi input yang memiliki probabilitas rendah di bawah distribusi data pelatihan AI. Tujuannya adalah agar sistem AI dapat mengenali kapan ia “tidak yakin” atau melihat sesuatu yang belum pernah dilihat sebelumnya, sehingga dapat memberikan peringatan atau meneruskan data tersebut ke tinjauan manusia.
Metode pendeteksian OOD yang ada saat ini umumnya mengandalkan analisis statistik dari representasi internal (latent representations) yang dipelajari oleh DNN. Mereka mencoba membangun model statistik dari data “normal” (in-distribution – ID) dan menandai input yang menyimpang jauh dari model ini sebagai OOD.
Tantangan Pendeteksian OOD Konvensional
Meskipun metode statistik ini cukup efektif dalam banyak kasus, mereka memiliki beberapa keterbatasan mendasar. Pertama, mereka sering kali hanya mengandalkan pola statistik yang mungkin dangkal pada representasi internal AI tanpa benar-benar memahami makna semantik dari data tersebut dalam konteks tugas yang diberikan.
Kedua, kebanyakan detektor OOD konvensional kurang memiliki kemampuan menjelaskan (explainability). Mereka hanya memberikan skor tunggal yang menunjukkan seberapa “aneh” suatu input tanpa memberikan alasan yang jelas mengapa input tersebut dianggap OOD. Pengguna bisnis sering kali membutuhkan pemahaman yang lebih dalam tentang mengapa suatu alarm dipicu.
Ketiga, mengintegrasikan pengetahuan awal (prior knowledge) atau “akal sehat” tentang struktur data ID ke dalam detektor yang ada sangat sulit. Pengetahuan ini sering kali berkaitan dengan konsep abstrak yang sulit dikorelasikan langsung dengan input data berdimensi tinggi. Misalnya, secara intuitif kita tahu bahwa rambu lalu lintas “Stop” seharusnya berwarna merah. Jika sistem analitik video AI mendeteksi rambu Stop berwarna biru, itu jelas OOD. Namun, mengajarkan “aturan” sederhana ini ke detektor OOD berbasis statistik murni sangatlah rumit karena mereka beroperasi pada representasi internal yang kompleks dan tidak transparan.
Markov Logic Networks (MLNs): Menjembatani Logika dan Probabilitas
Untuk mengatasi keterbatasan ini, pendekatan neuro-symbolic, yang menggabungkan kekuatan jaringan saraf (neural networks) dengan penalaran simbolik (symbolic reasoning), mulai menunjukkan potensi. Salah satu model yang menjanjikan dalam area ini adalah Markov Logic Network (MLN).
MLN adalah generalisasi probabilistik dari logika tingkat pertama (first-order logic). Bayangkan logika tingkat pertama sebagai sekumpulan “aturan” yang harus dipatuhi (misalnya, “SEMUA rambu Stop HARUS merah”). MLN melonggarkan aturan ini dengan menambahkan bobot (weights). Aturan dengan bobot tinggi sangat mungkin benar, sementara aturan dengan bobot rendah lebih fleksibel.
Dengan MLN, kita dapat mendefinisikan kendala logis berbobot atas konsep yang dapat dipahami manusia (seperti “warna rambu Stop adalah merah”, “objek ini adalah rambu Stop”). MLN kemudian menetapkan probabilitas pada suatu input berdasarkan seberapa baik input tersebut memenuhi kendala logis berbobot ini. Ini memungkinkan penalaran probabilistik, yang lebih cocok untuk dunia nyata yang tidak pasti, dibandingkan logika ketat yang hanya mengenal benar atau salah.
Bagaimana MLNs Meningkatkan Performa OOD Detection?
Penelitian terbaru, termasuk paper akademik yang relevan dengan topik ini, menunjukkan bahwa menggabungkan MLNs dengan detektor OOD yang sudah ada dapat secara signifikan meningkatkan performa. Cara kerjanya adalah MLNs bertindak sebagai lapisan tambahan yang memvalidasi input berdasarkan “aturan” yang dipelajari atau didefinisikan sebelumnya, memberikan skor tambahan yang mengukur seberapa “logis” atau “konsisten” input tersebut dengan pengetahuan domain.
Misalnya, detektor OOD berbasis statistik mungkin memberikan skor anomali pada gambar rambu Stop biru. MLN, yang telah “diajari” bahwa rambu Stop biasanya merah, akan memberikan skor probabilitas rendah pada input yang melanggar aturan ini. Kedua skor ini kemudian dapat digabungkan untuk menghasilkan skor OOD yang lebih kuat dan dapat diandalkan.
Salah satu kontribusi penting dari penelitian ini adalah algoritma sederhana yang memungkinkan pembelajaran kendala logis berbobot untuk deteksi OOD langsung dari dataset. Ini berarti sistem dapat secara otomatis belajar “aturan” yang relevan dari data ID tanpa memerlukan intervensi manual yang ekstensif. Hasil eksperimen pada berbagai dataset dan model DNN menunjukkan bahwa pendekatan ini efektif dalam meningkatkan akurasi deteksi OOD.
Aplikasi Nyata Teknologi OOD yang Ditingkatkan MLNs
Pendeteksian OOD yang diperkuat MLNs memiliki aplikasi yang luas dan berdampak di berbagai sektor industri di Indonesia:
- Manufaktur: Dalam otomasi industri, AI Vision digunakan untuk mendeteksi cacat produk. MLNs dapat ditambahkan untuk memvalidasi hasil deteksi berdasarkan aturan desain atau kualitas (misalnya, “lubang baut harus berbentuk lingkaran sempurna”). Jika AI Vision mendeteksi “cacat” yang secara logis tidak mungkin berdasarkan aturan tersebut (misalnya, lubang baut persegi pada produk yang seharusnya bulat), MLN dapat memberikan skor anomali yang tinggi, mengurangi false positive atau mendeteksi jenis cacat baru yang belum pernah dilihat sebelumnya.
- Smart City & Transportasi: Sistem sistem kendaraan dan parkir cerdas menggunakan LPR (License Plate Recognition). MLNs dapat memvalidasi plat nomor berdasarkan format plat yang berlaku di Indonesia (misalnya, “format plat nomor harus terdiri dari kode wilayah, angka, dan kode seri”). Plat nomor dengan format aneh atau mencurigakan dapat ditandai sebagai OOD dengan lebih akurat. Selain itu, analisis perilaku kendaraan di area parkir dapat ditingkatkan dengan aturan logis (misalnya, “kendaraan tidak boleh berhenti di area loading dock lebih dari 10 menit”).
- Keamanan & Pengawasan: Dalam analitik video AI untuk keamanan, OOD detection penting untuk mendeteksi perilaku aneh atau objek asing. MLNs dapat membantu memvalidasi deteksi (misalnya, “orang di area terbatas harus menggunakan ID card yang terlihat jelas”). Jika AI mendeteksi orang tanpa atribut yang seharusnya, MLN akan meningkatkan skor OOD. Ini sangat berguna di lingkungan seperti bandara, pabrik, atau gedung perkantoran di Jakarta dan Surabaya.
Kemampuan MLNs untuk mengintegrasikan pengetahuan logis dan memberikan penalaran probabilistik menjadikan sistem AI lebih kuat, transparan, dan dapat diandalkan saat beroperasi di lingkungan dunia nyata yang penuh variasi dan ketidakpastian.
Bagaimana ARSA Technology Dapat Membantu?
Sebagai perusahaan teknologi asal Indonesia yang berpengalaman sejak 2018 dalam pengembangan solusi AI dan IoT, ARSA Technology memahami pentingnya keandalan sistem cerdas yang beroperasi di lapangan. Kami terus berinovasi dan mengintegrasikan metodologi terkini, termasuk pendekatan yang menjembatani AI berbasis data dengan penalaran simbolik, untuk membangun solusi yang tidak hanya cerdas tetapi juga kuat dan dapat dijelaskan.
Tim ahli kami di Surabaya dan R&D Center di Yogyakarta memiliki kapabilitas untuk merancang dan mengimplementasikan sistem AI yang dilengkapi mekanisme pendeteksian OOD canggih. Kami dapat membantu bisnis Anda menerapkan solusi AI Vision, IoT Industri, Sistem Parkir Cerdas, atau teknologi kesehatan mandiri yang mampu mengenali dan merespons situasi tak terduga dengan lebih baik, meningkatkan keamanan, efisiensi, dan kepercayaan pada sistem otomatis Anda.
Kesimpulan
Pendeteksian Out-of-Distribution (OOD) adalah komponen vital untuk memastikan AI dapat beroperasi dengan aman dan efektif di dunia nyata. Keterbatasan metode konvensional dalam menangani ketidakpastian dan kurangnya penjelasan menjadi tantangan. Integrasi Markov Logic Networks (MLNs) menawarkan cara yang menjanjikan untuk meningkatkan performa OOD detection dengan menggabungkan kekuatan AI berbasis data dengan penalaran logis dan probabilistik. Ini menghasilkan sistem AI yang lebih tangguh, transparan, dan mampu menghadapi kompleksitas lingkungan operasional yang sebenarnya.
Konsultasikan kebutuhan AI Anda dengan tim konsultasi gratis ARSA Technology.
