Membangun Literasi AI Kritis: Siswa dan Guru Membentuk Masa Depan AI Generatif Melalui Desain Partisipatif

      Teknologi kecerdasan buatan (AI), khususnya AI generatif, terus berkembang pesat dan menjanjikan transformasi di berbagai sektor, termasuk pendidikan. Namun, dengan kemunculannya yang cepat, muncul pula pertanyaan krusial: siapa yang berhak menentukan bagaimana alat-alat AI ini diintegrasikan ke dalam lingkungan belajar atau operasional? Sebuah studi akademis berjudul "Emergent Technology, Emergent Critique: Students and Teachers Developing Critical AI Literacy through Participatory Design around Generative AI" menyoroti pentingnya desain partisipatif dalam membentuk literasi AI kritis bagi pengguna di masa depan. Studi ini menyajikan pandangan yang menarik tentang bagaimana kolaborasi antara siswa dan guru dapat menghasilkan praktik literasi AI yang esensial, relevan tidak hanya di ruang kelas, tetapi juga di dunia korporat dan industri yang tengah menghadapi adopsi AI.

Pentingnya Desain Partisipatif dalam Adopsi AI

      Ketika suatu teknologi seperti AI generatif masih dalam tahap awal perkembangan, dampaknya terhadap pembelajaran atau proses bisnis belum sepenuhnya pasti. Studi ini, yang diterbitkan di IDC ’26, menekankan bahwa para pemangku kepentingan yang paling terpengaruh oleh adopsi teknologi harus memiliki hak demokratis untuk berpartisipasi dalam pembentukannya. Ini adalah inti dari desain partisipatif (PD), sebuah metodologi yang memastikan bahwa sistem AI dirancang dan digunakan dengan cara yang tetap akuntabel terhadap kebutuhan dan praktik mereka yang paling terpengaruh. Pendekatan ini sangat relevan untuk perusahaan yang ingin menerapkan solusi AI secara etis dan efektif, melibatkan tim mereka dalam proses perancangan untuk memastikan penerimaan dan efektivitas yang lebih tinggi.

      Penelitian sebelumnya telah berupaya membuat AI lebih mudah dipahami oleh generasi muda, membantu mereka memahami cara kerja sistem ini dan cara membangunnya. Namun, pertanyaan yang lebih dalam muncul: siapa yang membentuk aspek-aspek AI yang perlu dipertanyakan, dan dari posisi sosial dan komunitas siapa? Literasi AI kritis adalah kerangka kerja yang dibutuhkan untuk menjawab pertanyaan-pertanyaan ini, tidak hanya tentang bagaimana alat AI memasuki suatu lingkungan, tetapi juga apa yang patut dicermati, pengetahuan siapa yang membingkai pengawasan tersebut, dan apa artinya mengajarkan AI secara kritis. Dalam konteks bisnis, ini berarti tidak hanya melatih karyawan untuk menggunakan alat AI, tetapi juga memberdayakan mereka untuk memahami bias, risiko, dan dampak sosiopolitik dari sistem tersebut.

Tiga Praktik Literasi AI Kritis yang Muncul

      Studi kasus deskriptif ini melibatkan program desain partisipatif lima minggu dengan tiga siswa kelas 11 Latinx dan tiga guru sekolah menengah di California selatan. Setiap pasangan guru-siswa mengembangkan unit kurikulum tentang bagaimana alat AI generatif akan digunakan dan diajarkan dalam mata pelajaran mereka. Analisis rekaman video dan artefak desain mengungkapkan tiga praktik utama literasi AI kritis yang muncul dari kolaborasi ini:

• Secara Kolektif Menggoyahkan Asumsi tentang AI: Peserta secara aktif mempertanyakan asumsi yang sudah ada tentang AI, seperti gagasan bahwa AI selalu netral atau tanpa bias. Mereka menyadari bahwa AI adalah produk dari keputusan manusia dan data yang dilatih, yang bisa mencerminkan bias masyarakat.

Pembelajaran Bersama Melalui Keahlian yang Saling Melengkapi: Siswa dan guru membawa perspektif dan keahlian yang berbeda ke meja. Siswa, yang seringkali merupakan digital native*, memiliki pemahaman intuitif tentang bagaimana alat-alat ini bekerja dan dampaknya pada kehidupan sehari-hari mereka. Guru membawa pemahaman tentang pedagogi, struktur kurikulum, dan dampak jangka panjang pada pendidikan. Kolaborasi ini menciptakan lingkungan di mana setiap pihak belajar dari yang lain, mengisi kesenjangan pengetahuan dan menghasilkan solusi yang lebih komprehensif.

• Mendasari Kritik AI pada Pengetahuan Budaya dan Praktik Kreatif: Kritik terhadap AI tidak hanya bersifat teoretis tetapi juga berakar pada pengalaman hidup, nilai-nilai budaya, dan praktik kreatif para siswa. Ini memungkinkan kritik menjadi lebih bermakna dan relevan, mengatasi masalah-masalah yang secara langsung memengaruhi komunitas mereka. Pendekatan ini memastikan bahwa literasi AI bukan hanya keterampilan teknis, tetapi juga keterampilan sosial dan budaya yang penting.

      Praktik-praktik ini tidak diajarkan secara eksplisit, melainkan muncul dan berkembang melalui pekerjaan desain itu sendiri. Hal ini menunjukkan bahwa literasi AI kritis adalah keterampilan yang paling baik diperoleh melalui pengalaman langsung dan refleksi kolaboratif, bukan hanya melalui konsumsi informasi pasif. Ini adalah pelajaran penting bagi organisasi yang ingin membangun kemampuan AI di dalam tim mereka.

Literasi AI Kritis sebagai Praktik yang Terletak

      Literasi AI telah dikonseptualisasikan sebagai seperangkat kompetensi yang memungkinkan individu untuk mengevaluasi teknologi AI secara kritis, berkomunikasi dan berkolaborasi secara efektif dengan AI, serta menggunakan AI sebagai alat dalam kehidupan sehari-hari dan pekerjaan. Namun, literasi AI kritis melampaui kerangka kompetensi konvensional dengan menyoroti dimensi sosiopolitik yang seringkali kurang ditekankan. Menurut Veldhuis et al. (2026), literasi AI kritis melibatkan empat dimensi yang saling terkait: mengganggu hal-hal umum (mempertanyakan asumsi AI), mempertimbangkan berbagai sudut pandang (termasuk komunitas terpinggirkan), berfokus pada dimensi sosiopolitik (menganalisis AI yang terjerat kekuasaan dan ketidaksetaraan), dan mengambil tindakan (menerjemahkan pemahaman kritis menjadi intervensi etis dan berorientasi desain).

      Memahami literasi AI kritis sebagai "praktik yang terletak" (situated practice) berarti bahwa ia muncul melalui tindakan, negosiasi, keputusan, dan pembuatan makna kolektif di antara para partisipan (Lave & Wenger, 1991). Studi sebelumnya telah menunjukkan bahwa keterkaitan dengan komunitas sangat penting bagi kaum muda dalam mengembangkan orientasi kritis terhadap AI. Pengetahuan budaya para pelajar juga membentuk keterlibatan mereka dengan konsep AI. Semua ini menunjukkan bahwa literasi AI kritis berkembang melalui partisipasi dalam jenis aktivitas sosial tertentu. Untuk perusahaan yang mengadopsi AI video analitik atau sistem AI Box, pelatihan yang kontekstual dan berbasis tim akan sangat bermanfaat.

Membentuk Lingkungan Belajar Literasi AI Melalui Desain Partisipatif

      Menempatkan siswa—atau dalam konteks bisnis, karyawan—sebagai desainer, bukan hanya pengguna, dari adopsi AI, memunculkan pertanyaan yang lebih mendalam. Ini bukan hanya tentang alat mana yang digunakan, tetapi juga apa yang patut dicermati, dan pengetahuan siapa yang membentuk apa yang dipelajari. Penelitian tentang partisipasi kaum muda sebagai desainer teknologi komputasi telah lama menunjukkan bahwa pemahaman kritis dan etis dapat muncul melalui kegiatan konstruksi dan dekonstruksi. Kerangka "pemberdayaan komputasi" mengusulkan bahwa kaum muda dapat terlibat secara kritis dengan teknologi melalui aktivitas semacam itu.

      Pendekatan ini sangat berharga bagi perusahaan yang ingin membangun budaya inovasi dan penggunaan AI yang bertanggung jawab. Dengan memberdayakan karyawan untuk tidak hanya menggunakan tetapi juga membentuk bagaimana AI diterapkan, organisasi dapat memastikan bahwa solusi yang digunakan lebih selaras dengan kebutuhan operasional, nilai-nilai perusahaan, dan standar etika. ARSA Technology, dengan pengalaman sejak 2018 dalam menyediakan solusi AI dan IoT yang praktis dan terbukti, memahami pentingnya pendekatan yang disesuaikan dan konsultatif ini dalam setiap proyek. Perusahaan yang mengandalkan keahlian seperti ARSA, yang berpengalaman sejak 2018, akan mendapatkan manfaat dari kemitraan yang mampu merancang dan menerapkan solusi AI secara bertanggung jawab di berbagai industri.

Implikasi untuk Adopsi AI di Berbagai Sektor

      Meskipun studi ini berfokus pada pendidikan, temuan-temuannya memiliki implikasi luas bagi setiap organisasi yang mempertimbangkan integrasi AI generatif. Dalam lanskap teknologi yang terus berubah, kapasitas untuk secara kritis mempertanyakan, beradaptasi, dan berinovasi adalah kunci.

• ROI yang Lebih Baik: Implementasi AI yang melibatkan pemangku kepentingan langsung dalam desainnya cenderung lebih sukses dan menghasilkan ROI yang lebih baik karena solusinya lebih sesuai dengan kebutuhan nyata dan hambatan operasional.
• Mitigasi Risiko: Mendorong literasi AI kritis di antara karyawan dapat membantu mengidentifikasi dan memitigasi risiko terkait bias algoritmik, masalah privasi, atau potensi penyalahgunaan AI sebelum menjadi masalah yang mahal.
• Kepatuhan dan Etika: Pendekatan partisipatif dapat membantu organisasi memastikan bahwa solusi AI mereka mematuhi regulasi yang berkembang pesat dan standar etika, membangun kepercayaan di antara karyawan dan pelanggan. Ini sangat penting untuk industri yang diatur secara ketat, seperti keuangan atau kesehatan.
• Inovasi yang Didorong Karyawan: Ketika karyawan diberdayakan untuk mengkritisi dan merancang ulang penggunaan AI, mereka menjadi agen inovasi, menemukan cara-cara baru dan lebih efektif untuk memanfaatkan teknologi.

      Kesimpulannya, studi ini memberikan bukti kuat bahwa literasi AI kritis adalah keterampilan yang perlu dikembangkan secara aktif dan kolaboratif. Dengan melibatkan siswa (atau karyawan) sebagai protagonis dalam proses desain, kita tidak hanya membentuk cara AI diadopsi, tetapi juga apa yang patut dicermati dan pengetahuan siapa yang membentuk pendidikan dan implementasi AI. Untuk kebutuhan solusi AI yang disesuaikan dan mendukung literasi kritis, solusi AI khusus dari ARSA dapat menjadi pilihan yang strategis.

      Sumber: Ojeda-Ramirez, S., Durall Gazulla, E., & Peppler, K. (2026). Emergent Technology, Emergent Critique: Students and Teachers Developing Critical AI Literacy through Participatory Design around Generative AI. In Proceedings of Proceedings of the 25th Interaction Design and Children Conference (IDC ’26). ACM. https://doi.org/10.1145/3773077.3812170

      Apakah Anda siap untuk memberdayakan tim Anda dengan pemahaman AI yang lebih mendalam dan menerapkan solusi AI yang cerdas dan bertanggung jawab? Jelajahi solusi AI dan IoT dari ARSA Technology dan hubungi tim ARSA untuk konsultasi gratis.