Meningkatkan Keterbacaan AI: Bagaimana Data Whitening Mengubah Penjelasan Model yang Lebih Akurat

      Kecerdasan Buatan (AI) telah menjadi pilar utama inovasi di berbagai industri, mulai dari manufaktur hingga layanan kesehatan. Namun, seiring dengan semakin canggihnya model AI, muncul kebutuhan krusial akan transparansi: bagaimana kita bisa memahami mengapa AI membuat keputusan tertentu? Di sinilah peran Explainable Artificial Intelligence (XAI) menjadi sangat penting. XAI bertujuan untuk memberikan wawasan yang transparan ke dalam model pembelajaran mesin, tetapi keandalan banyak metode atribusi fitur masih menjadi tantangan kritis.

      Studi sebelumnya telah menunjukkan bahwa metode XAI sering kali secara keliru memberikan kepentingan yang signifikan pada variabel yang tidak informatif, yang dikenal sebagai variabel penekan, yang dapat menyebabkan misinterpretasi fundamental. Mengingat bahwa penekanan statistik disebabkan oleh ketergantungan fitur, sebuah studi berjudul "The effect of whitening on explanation performance" menyelidiki apakah data whitening, teknik pra-pemrosesan umum untuk dekorrelasi, dapat mengurangi kesalahan tersebut. Temuan kunci dari studi ini menyoroti hubungan kompleks antara non-linearitas data, kualitas pra-pemrosesan, dan fidelitas atribusi, menggarisbawahi peran vital teknik pra-pemrosesan dalam meningkatkan interpretasi model.

Mengapa Transparansi AI Sangat Penting

      Dalam beberapa tahun terakhir, ada peningkatan fokus pada validasi empiris kinerja metode XAI dengan memeriksa akurasi penjelasannya. Tujuan utama XAI adalah untuk mengubah kotak hitam (black box) AI menjadi sistem yang dapat dipahami, di mana para pembuat keputusan dapat memercayai rekomendasi atau prediksi yang diberikan. Misalnya, dalam analitik video AI untuk keamanan, penting untuk memahami mengapa AI menandai suatu perilaku sebagai "mencurigakan" agar petugas keamanan dapat bertindak tepat.

      Namun, banyak masalah ground-truth yang ada dirancang sedemikian rupa sehingga menghindari korelasi realistis antara fitur-fitur yang terkait dengan kelas dan yang tidak terkait dengan kelas, seperti latar depan versus latar belakang gambar. Dalam skenario dunia nyata, ketergantungan semacam itu dapat memperkenalkan variabel penekan. Variabel penekan adalah fitur-fitur yang bising yang tidak secara langsung terkait dengan target prediksi, tetapi dapat dimanfaatkan oleh model—misalnya, untuk menghilangkan noise. Keterbatasan ini menghambat penilaian obyektif terhadap kebenaran penjelasan XAI, sehingga mengurangi kredibilitas dan keandalan sistem AI secara keseluruhan.

Peran Variabel Penekan dalam Interpretasi AI

      Variabel penekan (suppressor variables) adalah fitur yang, meskipun tidak memiliki hubungan langsung dengan hasil prediksi, secara tidak langsung dapat meningkatkan akurasi model AI dengan "menyaring" atau "menekan" noise dari fitur-fitur penting lainnya. Contohnya, dalam analisis gambar, elemen latar belakang yang mewakili kondisi pencahayaan dapat bertindak sebagai variabel penekan. Sebuah model mungkin memanfaatkan informasi ini untuk menyesuaikan variasi pencahayaan, sehingga meningkatkan deteksi objek yang sebenarnya.

      Meskipun membantu model dalam membuat prediksi yang lebih baik, variabel penekan dapat menyebabkan metode atribusi fitur XAI salah dalam mengidentifikasi fitur-fitur yang paling "penting." Metode-metode ini cenderung secara sistematis memberikan kepentingan pada variabel penekan, bahkan dalam pengaturan linear. Hal ini mengarah pada misinterpretasi: pengguna mungkin percaya bahwa variabel penekan adalah pendorong utama keputusan AI, padahal sebenarnya tidak. Kesalahan atribusi ini sangat berbahaya karena dapat merusak kepercayaan pada sistem AI dan menghambat diagnostik yang akurat. Studi ini mencoba mencari cara untuk mengurangi dampak negatif ini.

Data Whitening: Solusi untuk Data yang Lebih Jelas

      Menyadari masalah yang ditimbulkan oleh variabel penekan, peneliti mengusulkan data whitening sebagai solusi potensial. Data whitening adalah teknik pra-pemrosesan data yang bertujuan untuk mengubah fitur-fitur asli ke dalam ruang baru di mana semua fitur tidak berkorelasi dan memiliki varians unit (skala yang sama). Singkatnya, proses ini membuat fitur-fitur data menjadi lebih "bersih" dan independen satu sama lain, mengurangi redundansi dan menghilangkan bias yang disebabkan oleh korelasi.

      Proses whitening umumnya melibatkan dekomposisi nilai eigen dari matriks kovarians dan normalisasi nilai eigen. Terdapat berbagai metode whitening, termasuk:

• Sphering: Mengubah data dengan memproyeksikannya ke sumbu utama dan menskala ulang ke varians unit di sepanjang setiap sumbu, diikuti dengan rotasi kembali ke ruang input.
• Symmetric Orthogonalization: Bertujuan untuk menghasilkan fitur-fitur yang saling tidak berkorelasi sambil meminimalkan perbedaan antara fitur-fitur asli dan yang telah diubah.
• Optimal Signal Preservation (OSP) Whitening: Menggunakan metode tertentu untuk menjaga integritas sinyal.

      Dengan membuat fitur-fitur data lebih terpisah dan berskala seragam, diharapkan metode XAI dapat lebih akurat dalam mengidentifikasi fitur-fitur yang benar-benar relevan dengan prediksi model, dibandingkan dengan variabel penekan yang mengganggu.

Evaluasi Empiris dan Temuan Utama

      Untuk menguji hipotesis ini, penelitian ini menggunakan benchmark XAI-TRIS yang telah ditetapkan. Dataset XAI-TRIS terdiri dari empat masalah klasifikasi gambar biner (linear, multiplikatif, rotasi/translasi, XOR) menggunakan bentuk geometris (tetrominoes) yang ditempatkan di atas berbagai jenis latar belakang yang bising: white noise (WHITE) dan correlated noise (CORR). Latar belakang CORR dihaluskan dengan filter Gaussian, yang menyebabkan korelasi antar fitur dan efek penekan yang menjadi fokus penelitian ini. Tetrominoes mewakili fitur diskriminatif yang berfungsi sebagai penjelasan ground truth.

      Penelitian ini secara empiris mengevaluasi 16 metode atribusi fitur XAI yang populer, diterapkan dalam kombinasi dengan 5 transformasi whitening yang berbeda. Skenario latar belakang WHITE berfungsi sebagai baseline karena tidak memiliki korelasi antar fitur, sehingga metode whitening tidak diterapkan. Para peneliti kemudian menguji apakah penerapan metode whitening pada latar belakang CORR dapat mengurangi dampak variabel penekan, dengan hipotesis bahwa penjelasan akan lebih selaras dengan fitur diskriminatif.

      Hasilnya menunjukkan bahwa, meskipun teknik whitening tertentu dapat meningkatkan kinerja penjelasan, tingkat peningkatannya bervariasi secara substansial di antara metode XAI dan arsitektur model. Ini menunjukkan bahwa tidak ada solusi "satu ukuran untuk semua" dalam pra-pemrosesan data untuk XAI. Misalnya, peningkatan yang signifikan mungkin terlihat pada model linear, tetapi kurang terasa pada model non-linear yang lebih kompleks, karena non-linearitas dalam data dapat berinteraksi secara kompleks dengan transformasi whitening. Temuan ini menggarisbawahi bahwa hubungan antara non-linearitas data, kualitas pra-pemrosesan, dan fidelitas atribusi XAI sangat kompleks, memerlukan pendekatan yang cermat dan disesuaikan.

Implikasi Bisnis dan Manfaat Praktis

      Temuan ini memiliki implikasi yang signifikan bagi perusahaan yang mengandalkan AI untuk pengambilan keputusan strategis. Dengan meningkatkan akurasi penjelasan AI, organisasi dapat:

• Mengurangi Risiko Operasional: Ketika penjelasan AI lebih akurat, risiko misinterpretasi atau pengambilan keputusan yang salah akan berkurang. Ini sangat penting di sektor-sektor berisiko tinggi seperti manufaktur atau perawatan kesehatan. Solusi seperti AI BOX - Basic Safety Guard yang mendeteksi kepatuhan PPE dapat memberikan jaminan yang lebih tinggi jika didukung oleh penjelasan yang akurat.
• Meningkatkan Kepercayaan dan Kepatuhan: Kejelasan dalam bagaimana AI sampai pada suatu kesimpulan membangun kepercayaan di antara pemangku kepentingan, dari manajemen hingga regulator. Ini juga membantu dalam memenuhi persyaratan kepatuhan yang semakin ketat untuk sistem AI yang transparan.
• Optimasi Proses yang Lebih Efisien: Memahami fitur-fitur yang benar-benar mendorong prediksi AI memungkinkan bisnis untuk mengoptimalkan proses mereka dengan lebih cerdas. Dalam ritel, misalnya, memahami perilaku pelanggan dengan akurat menggunakan AI BOX - Smart Retail Counter dapat membantu mengoptimalkan tata letak toko dan strategi penempatan produk. Untuk sektor transportasi dan kota pintar, kemampuan untuk memonitor lalu lintas dan mengelola parkir menjadi lebih efisien dengan sistem seperti AI BOX - Traffic Monitor, di mana akurasi analisis sangat diutamakan.

Pengambilan Keputusan Berbasis Data yang Akurat: Dengan penjelasan yang lebih benar, para pemimpin bisnis dapat membuat keputusan yang lebih tepat dan berbasis data, mengalokasikan sumber daya secara lebih efektif, dan merumuskan strategi yang lebih sukses. Penggunaan komputasi edge melalui ARSA AI Box Series memastikan bahwa analisis dan penjelasan dilakukan secara real-time* di lokasi, yang meningkatkan privasi dan kecepatan pengambilan keputusan.

Masa Depan Interpretasi AI yang Lebih Akurat

      Studi ini secara jelas menunjukkan bahwa pra-pemrosesan data, khususnya data whitening, adalah langkah yang sangat penting dalam upaya mencapai XAI yang lebih andal. Meskipun whitening bukan obat mujarab, ia adalah alat yang berharga dalam gudang senjata ilmuwan data untuk meningkatkan kinerja metode penjelasan, terutama ketika menghadapi data dengan korelasi fitur yang kompleks.

      Seiring berkembangnya AI, kebutuhan akan alat XAI yang dapat diandalkan akan terus meningkat. Penelitian di masa depan akan perlu mengeksplorasi bagaimana teknik pra-pemrosesan yang lebih canggih dapat dikombinasikan dengan arsitektur model dan metode XAI yang berbeda untuk mencapai tingkat transparansi dan keakuratan yang lebih tinggi. Dengan begitu, kita dapat memastikan bahwa AI tidak hanya kuat dalam prediksinya, tetapi juga transparan dan dapat dipercaya dalam penjelasannya.

      ARSA Technology, dengan pengalaman sejak 2018 dalam membangun solusi AI & IoT, berkomitmen untuk mengembangkan sistem yang tidak hanya efisien tetapi juga transparan dan dapat diandalkan, melayani berbagai industri.

      Ingin mengeksplorasi bagaimana solusi AI yang transparan dan akurat dapat mengubah operasi bisnis Anda? Kunjungi situs web ARSA Technology dan minta konsultasi gratis dengan tim ahli kami hari ini.

      Source: Clark, B., Karastoyanov, S., Wilming, R., & Haufe, S. (2026). The effect of whitening on explanation performance. Interpretable AI: Past, Present and Future Workshop at NeurIPS 2024, arXiv:2602.09278v1 [cs.LG].