Alat AI Generatif HHS untuk Hipotesis Klaim Cedera Vaksin: Tantangan dan Implikasi Data Kesehatan

      Kementerian Kesehatan dan Layanan Masyarakat Amerika Serikat (HHS) sedang berada di garis depan inovasi dengan mengembangkan sebuah alat kecerdasan buatan (AI) generatif. Tujuan dari alat ini adalah untuk mengidentifikasi pola-pola tersembunyi dalam data yang dilaporkan ke database pemantauan vaksin nasional dan kemudian menghasilkan hipotesis mengenai efek samping vaksin. Inisiatif ini diungkapkan dalam inventaris penggunaan AI oleh badan tersebut untuk tahun 2025. Meskipun alat ini belum digunakan secara aktif, dokumen dari HHS menunjukkan bahwa pengembangannya telah dimulai sejak akhir 2023. Potensi penggunaannya memicu diskusi luas di kalangan pakar mengenai implikasi etis dan ilmiahnya, terutama dalam konteks kebijakan kesehatan publik yang krusial.

AI Generatif dalam Pengawasan Kesehatan Publik: Inisiatif HHS

      Penggunaan AI generatif oleh HHS mewakili langkah signifikan dalam upaya pengawasan kesehatan masyarakat. Alat ini dirancang untuk menelusuri volume data yang sangat besar yang dikumpulkan oleh Vaccine Adverse Event Reporting System (VAERS), sebuah sistem yang telah beroperasi sejak tahun 1990. Sistem VAERS, yang dikelola bersama oleh Centers for Disease Control and Prevention (CDC) dan Food and Drug Administration (FDA), adalah mekanisme vital untuk mendeteksi potensi masalah keamanan vaksin pascapersertujuan. Siapa saja, mulai dari penyedia layanan kesehatan hingga masyarakat umum, dapat mengirimkan laporan tentang reaksi merugikan ke database ini. Kemampuan AI untuk menemukan korelasi atau anomali dalam data mentah ini dapat mempercepat identifikasi tren yang mungkin terlewatkan oleh analisis manual. Hal ini berpotensi memberikan wawasan baru tentang keamanan produk kesehatan yang digunakan secara massal.

      Namun, pengembangan alat AI ini tidak luput dari kekhawatiran. Beberapa pakar menyatakan keprihatinan bahwa hipotesis yang dihasilkan oleh AI ini dapat disalahgunakan. Karena sifatnya yang generatif, model bahasa besar (LLM) terkenal dengan kemampuannya menghasilkan "halusinasi" atau informasi yang terdengar meyakinkan namun tidak akurat, sebuah tantangan yang membutuhkan intervensi manusia yang cermat. Oleh karena itu, verifikasi dan validasi ilmiah yang ketat sangat penting untuk memastikan bahwa setiap temuan yang dihasilkan AI bersifat faktual dan dapat diandalkan, bukan hanya spekulasi tanpa dasar.

Memahami VAERS: Sumber Data Penting dengan Keterbatasan

      VAERS sendiri, meskipun sangat penting, memiliki keterbatasan inheren yang harus dipahami sebelum hasil analisis AI dapat ditafsirkan. Seperti yang dijelaskan oleh Paul Offit, seorang dokter anak dan direktur Pusat Pendidikan Vaksin di Children's Hospital of Philadelphia, VAERS "paling-paling, selalu merupakan mekanisme penghasil hipotesis." Laporan-laporan yang masuk ke VAERS tidak diverifikasi, artinya data tersebut tidak dapat digunakan untuk secara definitif menentukan apakah suatu vaksin menyebabkan efek samping tertentu. Sistem ini hanya menunjukkan bahwa suatu peristiwa merugikan terjadi setelah imunisasi, tanpa membuktikan hubungan sebab-akibat.

      Salah satu batasan utama VAERS adalah tidak mencakup data tentang berapa banyak orang yang menerima vaksin. Ketiadaan data denominator ini dapat membuat peristiwa yang dicatat dalam database tampak lebih umum dari yang sebenarnya. Leslie Lenert, mantan direktur pendiri Pusat Nasional Informatika Kesehatan Masyarakat di CDC, menekankan pentingnya menggabungkan informasi dari VAERS dengan sumber data lain untuk menentukan risiko sebenarnya dari suatu peristiwa. Tanpa konteks yang lebih luas, data VAERS saja dapat dengan mudah disalahpahami atau disalahgunakan, seperti yang sering dilakukan oleh aktivis anti-vaksin untuk menyiratkan bahwa vaksin tidak aman, meskipun CDC sendiri menyatakan bahwa laporan ke VAERS tidak berarti vaksin menyebabkan efek samping.

Potensi dan Risiko Kecerdasan Buatan dalam Analisis Data Kesehatan

      Transisi dari model AI pemrosesan bahasa alami (NLP) tradisional, yang telah digunakan selama bertahun-tahun oleh ilmuwan pemerintah untuk mencari pola dalam data VAERS, ke LLM yang lebih canggih, menawarkan potensi besar. LLM dapat mengidentifikasi pola-pola yang lebih kompleks dan menghasilkan hipotesis yang lebih nuansa dari data teks bebas dalam laporan VAERS. Ini dapat mempercepat proses penemuan dan memungkinkan peneliti untuk fokus pada sinyal yang paling menjanjikan. Dengan memanfaatkan teknologi seri AI Box, misalnya, yang memungkinkan analisis data canggih di lokasi tanpa ketergantungan cloud, organisasi dapat memproses informasi sensitif dengan keamanan dan kecepatan tinggi, mirip dengan kebutuhan dalam analisis data kesehatan.

      Namun, bersama dengan potensi ini datanglah risiko. Tantangan LLM dalam menghasilkan "halusinasi" berarti bahwa hipotesis yang mereka hasilkan harus selalu diperlakukan sebagai titik awal untuk penyelidikan, bukan sebagai kesimpulan yang pasti. Seorang analis manusia yang terampil, dengan pemahaman mendalam tentang vaksin, potensi efek samping, statistik, epidemiologi, dan batasan output LLM, sangat penting untuk meninjau dan memvalidasi setiap temuan. Tanpa pengawasan yang memadai, ada risiko tinggi terjadinya peringatan palsu yang dapat mengalihkan sumber daya atau, lebih buruk lagi, menyebarkan informasi yang salah dan merusak kepercayaan publik.

Pentingnya Validasi Ilmiah dan Pengawasan Manusia

      Pakar seperti Jesse Goodman, seorang dokter penyakit menular dan profesor kedokteran di Georgetown University, mengakui bahwa penggunaan LLM berpotensi mendeteksi masalah keamanan vaksin yang sebelumnya tidak diketahui. Namun, ia juga sangat menekankan pentingnya penyelidikan menyeluruh terhadap setiap petunjuk yang muncul. Mengingat sifat data VAERS yang dapat mengandung informasi yang tidak akurat atau tidak lengkap, diperlukan tim yang sangat terampil untuk menyaring data, memutuskan apa yang perlu dipelajari lebih lanjut, dan bagaimana melakukannya. Dengan adanya pemotongan staf di lembaga-lembaga vital seperti CDC, kapasitas untuk tindak lanjut manusia ini menjadi perhatian serius.

      Untuk memastikan penerapan AI yang bertanggung jawab dalam sektor kesehatan, model AI harus diintegrasikan ke dalam kerangka kerja yang kuat yang memprioritaskan validasi ilmiah. Ini termasuk:

• Integrasi Data Multipel: Menggabungkan data VAERS dengan sumber lain yang lebih lengkap (misalnya, catatan medis elektronik terverifikasi atau survei populasi) untuk memberikan konteks yang lebih baik dan mengidentifikasi hubungan sebab-akibat yang sebenarnya.
• Kejelasan Metodologi: Memastikan bahwa metodologi yang digunakan oleh alat AI transparan dan dapat diaudit oleh komunitas ilmiah.
• Pengawasan Ahli: Tim ahli manusia yang berdedikasi untuk meninjau, menginterpretasikan, dan memverifikasi setiap hipotesis yang dihasilkan AI. Pengalaman ARSA yang berpengalaman sejak 2018 dalam mengembangkan solusi AI khusus menunjukkan bahwa keahlian manusia dalam domain sangat penting untuk keberhasilan implementasi AI, terutama dalam konteks sensitif seperti kesehatan.

Implikasi Kebijakan dan Kepercayaan Publik

      Inisiatif AI ini tidak dapat dilepaskan dari konteks kebijakan dan kepemimpinan HHS saat ini. Robert F. Kennedy Jr., Sekretaris HHS, dikenal sebagai kritikus vaksin dan telah melakukan perubahan signifikan pada jadwal imunisasi anak, menghapus beberapa vaksin dari daftar yang direkomendasikan. Ia juga menyerukan perombakan sistem pemantauan keamanan data cedera vaksin VAERS, mengklaim bahwa sistem tersebut menekan informasi tentang tingkat sebenarnya dari efek samping vaksin. Kekhawatiran muncul bahwa alat AI generatif ini bisa digunakan untuk memperkuat narasi anti-vaksin jika hipotesis yang dihasilkan tidak divalidasi dengan hati-hati atau disajikan tanpa konteks ilmiah yang tepat.

      Langkah-langkah seperti yang diusulkan oleh Kennedy untuk mempermudah tuntutan hukum atas efek samping yang belum terbukti terkait dengan vaksin dapat semakin memperkeruh situasi. Dalam konteks ini, keakuratan dan objektivitas alat AI menjadi sangat penting untuk menjaga kepercayaan publik terhadap program vaksinasi dan institusi kesehatan. Solusi yang berfokus pada analisis data yang komprehensif dan pengelolaan informasi kesehatan yang terstruktur, seperti halnya dengan solusi kesehatan mandiri yang mengelola data vital secara terintegrasi, dapat memberikan dasar yang kuat untuk pengambilan keputusan berbasis bukti.

      Penggunaan AI dalam data kesehatan masyarakat memiliki potensi transformatif, namun juga membawa tanggung jawab besar. Keberhasilan alat AI generatif HHS akan sangat bergantung pada implementasi yang cermat, validasi ilmiah yang ketat, dan pengawasan manusia yang berkelanjutan, terutama dalam menghadapi sensitivitas publik dan potensi politisasi data kesehatan.

      Sumber: Wired.com

      Apakah Anda siap memanfaatkan kecerdasan buatan untuk mengubah operasional dan meningkatkan pengambilan keputusan di industri Anda? Jelajahi berbagai solusi AI dan IoT kami dan hubungi tim ARSA untuk konsultasi gratis.