Mengungkap Rahasia: Mengapa Kecerdasan Buatan yang Dapat Dijelaskan Penting untuk Pengenalan Aktivitas Manusia (XAI-HAR)

      Kecerdasan Buatan (AI) telah merevolusi berbagai aspek kehidupan, dari pemrosesan bahasa alami hingga visi komputer. Salah satu bidang yang mengalami transformasi signifikan adalah Pengenalan Aktivitas Manusia (Human Activity Recognition atau HAR), sebuah teknologi fundamental dalam sistem cerdas. HAR memungkinkan mesin untuk memahami dan menginterpretasikan tindakan manusia dari data sensor, menjadi komponen kunci dalam pemantauan kesehatan, rumah pintar, kolaborasi manusia-komputer, dan bahkan analisis olahraga. Namun, seiring dengan peningkatan kinerja model AI, khususnya model deep learning yang kompleks, muncul tantangan baru: kurangnya transparansi. Model-model ini sering disebut sebagai "kotak hitam" (black box) karena proses pengambilan keputusannya yang tidak mudah dipahami, membatasi kepercayaan dan keandalan di dunia nyata.

      Untuk mengatasi permasalahan ini, muncul bidang Explainable Artificial Intelligence (XAI). XAI bertujuan untuk membuat model AI lebih transparan, mudah dipahami, dan berpusat pada manusia. Artikel ini akan mengulas konsep dan mekanisme di balik XAI-HAR, menjelaskan bagaimana teknologi ini tidak hanya meningkatkan akurasi, tetapi juga membangun kepercayaan dalam sistem cerdas. Kami akan menyederhanakan konsep-konsep teknis dan menyoroti aplikasi praktis, serta menjelaskan signifikansi pentingnya sistem yang dapat dijelaskan di berbagai industri.

Mengapa HAR yang Dapat Dijelaskan Menjadi Krusial?

      HAR telah menjadi fondasi bagi banyak sistem cerdas di berbagai sektor, termasuk pemantauan kesehatan, rumah pintar, dan kolaborasi manusia-robot. Di lingkungan pemantauan kesehatan, misalnya, kemampuan untuk secara akurat dan otomatis mendeteksi pola aktivitas dapat menjadi penentu dalam diagnosis dini atau pencegahan insiden. Bayangkan sistem yang dapat mendeteksi perilaku jatuh atau pola aktivitas tidak biasa pada lansia, dan memberikan peringatan tepat waktu. Namun, jika sistem ini memberikan prediksi yang salah tanpa alasan yang jelas, akan sulit bagi petugas medis atau keluarga untuk mempercayai atau bertindak berdasarkan rekomendasinya.

      Model deep learning memang telah meningkatkan kinerja HAR secara substansial dalam memodelkan ketergantungan temporal yang kompleks dan interaksi sensor. Namun, peningkatan kinerja ini seringkali datang dengan mengorbankan transparansi. Model-model ini, yang sering disebut "kotak hitam", membuat kita sulit memahami mengapa prediksi tertentu dibuat. Dalam lingkungan yang mengutamakan keselamatan, seperti fasilitas industri yang memantau kepatuhan alat pelindung diri (PPE) atau area terbatas, kurangnya transparansi ini dapat menimbulkan risiko besar. Jika sistem AI gagal mendeteksi pelanggaran keamanan atau justru memberikan peringatan palsu, dan kita tidak tahu alasannya, akuntabilitas dan kemampuan mitigasi risiko akan terganggu. Oleh karena itu, XAI sangat penting untuk membangun kepercayaan, memastikan keandalan, dan mendukung akuntabilitas, terutama saat sistem HAR diimplementasikan dalam aplikasi kritis. ARSA Technology, dengan pengalaman sejak 2018, memahami pentingnya transparansi ini dalam penyediaan solusi AI Video Analytics.

Memahami Kompleksitas Data Sensor HAR

      Karakteristik utama XAI-HAR terletak pada sifat datanya. HAR terutama mengandalkan aliran data multivariate time-series yang dikumpulkan dari berbagai jenis sensor. Ini mencakup Unit Pengukuran Inersia (IMU) yang dapat dikenakan, seperti yang ada di smartwatch atau ponsel, yang mendeteksi gerakan; sensor fisiologis seperti electroencephalography (EEG) untuk aktivitas otak; representasi kerangka dari kamera visi; dan sensor lingkungan di rumah pintar. Data ini secara inheren bising, sangat berkorelasi, dan hanya secara tidak langsung terkait dengan label aktivitas semantik tingkat tinggi.

      Berbeda dengan domain gambar atau teks, di mana input mentah dapat langsung diperiksa (misalnya, melihat gambar atau membaca kalimat), penjelasan HAR harus menjembatani "kesenjangan semantik" antara pengukuran sensor tingkat rendah dan tindakan manusia tingkat tinggi. Ini berarti XAI-HAR harus menjelaskan tidak hanya apa yang dideteksi, tetapi juga bagaimana dinamika sensor temporal, interaksi multimodal, dan isyarat kontekstual secara bersama-sama menghasilkan keputusan aktivitas. Misalnya, mengapa sistem mengidentifikasi seseorang sedang "berlari" bukan hanya karena kecepatan, tetapi juga karena pola ayunan lengan (dari sensor IMU) dan percepatan jantung (dari sensor fisiologis) dalam periode waktu tertentu. Menjembatani kesenjangan ini menjadi tantangan kunci dalam mengembangkan sistem HAR yang benar-benar dapat dipahami manusia.

Pendekatan XAI: Mengurai Model AI yang Kompleks

      XAI berupaya menjawab pertanyaan fundamental: mengapa model menghasilkan prediksi tertentu, input atau representasi internal apa yang memengaruhi keputusan itu, dan bagaimana model berperilaku dalam kondisi operasi yang berbeda. Dalam konteks HAR, XAI menghadirkan dua strategi utama untuk mencapai transparansi:

• Model Intrinsic (Transparan Sejak Desain): Pendekatan ini menggunakan model AI yang secara inheren dapat ditafsirkan, seperti pengklasifikasi linier atau pohon keputusan. Penjelasan dapat diturunkan langsung dari parameter model atau jalur keputusan. Keuntungannya adalah transparansi bawaan, namun model ini seringkali kurang memiliki kekuatan ekspresif untuk menangani kompleksitas data HAR yang sangat bervariasi dan tidak linier.

Post-Hoc (Analisis Pasca-Pelatihan): Pendekatan ini menganalisis model "kotak hitam" yang sudah terlatih tanpa memodifikasi struktur internalnya. Teknik seperti saliency maps* berbasis gradien memvisualisasikan bagian input mana yang paling sensitif terhadap keputusan model, mirip dengan peta panas. Sementara itu, pendekatan berbasis perturbasi, seperti Local Interpretable Model-agnostic Explanations (LIME) dan SHapley Additive exPlanations (SHAP), mendekati batas keputusan lokal menggunakan model pengganti yang lebih sederhana, memberikan atribusi fitur yang agnostik terhadap model. Metode seperti Class Activation Mapping (CAM) dan Grad-CAM, yang awalnya populer di visi komputer, juga diadaptasi untuk HAR untuk menunjukkan area atau segmen waktu dalam data sensor yang paling relevan dengan prediksi aktivitas.

      Pemanfaatan ARSA AI API dapat membantu pengembang mengintegrasikan kemampuan pengenalan wajah dan deteksi aktivitas ke dalam aplikasi mereka, dengan tetap mempertimbangkan prinsip-prinsip XAI untuk menjelaskan hasil prediksinya.

Taksonomi Penjelasan XAI-HAR: Dari Konsep ke Mekanisme

      Untuk mengatasi ambiguitas dalam literatur, para peneliti mengusulkan kerangka kerja terpadu yang memisahkan dimensi konseptual dari mekanisme penjelasan algoritmik (Sumber: Explainable Human Activity Recognition: A Unified Review of Concepts and Mechanisms). Dimensi konseptual mencakup hal-hal seperti penjelasan lokal (untuk satu prediksi) versus global (untuk perilaku model secara keseluruhan), atau interpretasi intrinsik (model itu sendiri transparan) versus post-hoc (model dijelaskan setelah pelatihan).

      Sementara itu, mekanisme algoritmik merujuk pada teknik spesifik yang digunakan untuk menghasilkan penjelasan. Ini dapat meliputi:

• Atribusi Berbasis Fitur: Menunjukkan fitur atau segmen data sensor mana yang paling berkontribusi pada prediksi.
• Model Proksi: Membangun model yang lebih sederhana (transparan) yang meniru perilaku model kompleks secara lokal.
• Atribusi Konseptual: Mengidentifikasi konsep tingkat tinggi yang dipelajari model, bukan hanya fitur mentah.
• Contoh Kontrafaktual: Menjelaskan apa yang harus diubah pada input agar model menghasilkan prediksi yang berbeda.

Visualisasi: Menyajikan penjelasan dalam format yang mudah dipahami manusia, seperti grafik atau peta panas pada data time-series*.

      Dengan membedakan dimensi konseptual dari mekanisme algoritmik, studi ini mengurangi ambiguitas sambil tetap mempertahankan keragaman metodologis. Pendekatan ini memungkinkan pemahaman yang lebih jelas tentang bagaimana setiap kategori metode XAI-HAR menangani kompleksitas temporal, multimodal, dan semantik dari data aktivitas manusia.

Tantangan dan Arah Masa Depan untuk XAI-HAR yang Andal

      Meskipun kemajuan dalam XAI-HAR sangat menjanjikan, masih ada beberapa tantangan signifikan yang perlu diatasi untuk mencapai sistem yang benar-benar andal dan dapat diterapkan di dunia nyata.

Evaluasi Penjelasan: Bagaimana kita mengukur "kebaikan" suatu penjelasan? Metrik seperti faithfulness (seberapa akurat penjelasan mencerminkan logika model) dan stability* (apakah penjelasan tetap konsisten ketika input sedikit diubah) masih merupakan area penelitian aktif. Untuk HAR, penting juga untuk mempertimbangkan karakteristik temporal data.

• Kesenjangan Semantik Lanjutan: Menjembatani kesenjangan antara data sensor mentah dan interpretasi manusia tetap menjadi rintangan. Penjelasan harus relevan secara semantik bagi manusia, bukan hanya secara matematis akurat bagi model.

Privasi dan Keamanan: Dalam aplikasi sensitif seperti kesehatan, pengungkapan bagaimana suatu aktivitas dikenali dapat secara tidak sengaja mengungkapkan informasi pribadi. Oleh karena itu, penting untuk merancang sistem XAI-HAR dengan mempertimbangkan privasi sejak awal (privacy-by-design*). Inferensi di Edge: Banyak aplikasi HAR membutuhkan pemrosesan data secara lokal atau di perangkat edge untuk latensi rendah dan kepatuhan data. Mengembangkan metode XAI yang efisien untuk lingkungan edge (seperti ARSA AI Box Series yang dirancang untuk penyebaran di edge*) adalah area krusial.

• Interaksi Manusia-XAI: Desain penjelasan harus mempertimbangkan peran pengguna (misalnya, dokter, manajer fasilitas, pengguna akhir) dan tujuan pengambilan keputusan mereka. Penjelasan yang efektif harus disesuaikan dengan kebutuhan pemangku kepentingan yang berbeda.

      Arah penelitian di masa depan kemungkinan akan berfokus pada kerangka kerja XAI yang lebih berpusat pada manusia, metode penjelasan yang secara intrinsik mempertimbangkan struktur temporal data HAR, dan strategi evaluasi yang lebih kuat yang mengukur kepercayaan dan pemahaman pengguna. Tujuan akhirnya adalah membangun sistem pengenalan aktivitas yang tidak hanya akurat, tetapi juga dapat dipercaya dan mendukung pengambilan keputusan manusia secara efektif.

Kesimpulan dan Implikasi Bisnis

      Pengenalan Aktivitas Manusia yang dapat dijelaskan (XAI-HAR) bukan lagi sekadar topik akademis, melainkan kebutuhan mendesak di dunia bisnis dan operasional. Dengan menyatukan kekuatan deep learning dengan transparansi XAI, organisasi dapat membangun sistem cerdas yang tidak hanya efisien tetapi juga dapat dipercaya dan akuntabel. Kemampuan untuk memahami mengapa sistem AI membuat keputusan tertentu memungkinkan perusahaan untuk:

• Meningkatkan Keamanan dan Kepatuhan: Di sektor industri, XAI-HAR dapat membantu menjelaskan deteksi pelanggaran keselamatan, seperti tidak memakai PPE, memungkinkan intervensi yang lebih cepat dan audit yang lebih transparan. Ini dapat secara signifikan mengurangi risiko kecelakaan dan memastikan kepatuhan terhadap peraturan.
• Mengoptimalkan Operasional: Dalam ritel atau lalu lintas, pemahaman tentang pola perilaku atau kemacetan yang dijelaskan oleh AI dapat mengarah pada tata letak yang lebih baik, penjadwalan staf yang efisien, atau manajemen lalu lintas yang lebih cerdas, yang pada akhirnya meningkatkan ROI.
• Membangun Kepercayaan Pelanggan dan Karyawan: Dalam aplikasi kesehatan atau rumah pintar, sistem HAR yang transparan dapat meningkatkan kepercayaan pengguna, yang krusial untuk adopsi jangka panjang dan kepuasan.
• Memfasilitasi Inovasi yang Bertanggung Jawab: Dengan XAI, pengembang dapat mengidentifikasi bias dalam model atau memperbaiki kegagalan model lebih cepat, mendorong pengembangan AI yang lebih etis dan bertanggung jawab.

      ARSA Technology memahami bahwa inovasi AI tidak hanya tentang kinerja, tetapi juga tentang kepercayaan dan dampak nyata di dunia. Dengan fokus pada solusi AI & IoT praktis yang diterapkan secara lokal dan di edge, ARSA berkomitmen untuk menghadirkan teknologi yang tidak hanya canggih tetapi juga transparan dan mudah dipahami, memastikan bahwa AI benar-benar bekerja untuk bisnis Anda.

      Untuk mengeksplorasi bagaimana solusi AI dan IoT kami dapat membawa transparansi dan keandalan pada operasional Anda, kami mengundang Anda untuk menghubungi tim ARSA.

      Sumber: Mainak Kundu, Catherine Chen, Rifatul Islam, Ismail Uysal, and Ria Kanjilal. "Explainable Human Activity Recognition: A Unified Review of Concepts and Mechanisms." arXiv preprint arXiv:2604.09799 (2026).