Pandangan Paus Leo XIV tentang AI: Menjaga Kemanusiaan di Era Kecerdasan Buatan

Ensiklik "Magnifica Humanitas": Seruan Paus tentang AI

      Pada suatu perkembangan signifikan yang menarik perhatian global, Paus Leo XIV baru-baru ini merilis surat ensiklik berjudul "Magnifica Humanitas" yang secara spesifik membahas implikasi sosial dari kecerdasan buatan (AI). Dalam surat tersebut, Paus dengan tegas memperingatkan bahwa "penggunaan AI tidak pernah semata-mata masalah teknis: ketika ia masuk ke dalam proses yang memengaruhi kehidupan manusia, ia menyentuh hak, kesempatan, status, dan kebebasan." Pesan ini menggarisbawahi bahwa teknologi AI, sekalipun canggih, harus selalu ditempatkan dalam kerangka etika dan kemanusiaan.

      Peluncuran ensiklik ini semakin diperkuat dengan kehadiran Christopher Olah, salah satu pendiri dan pemimpin tim interpretability di Anthropic, sebuah perusahaan AI terkemuka. Kemitraan antara Gereja Katolik dan pemain besar di industri AI ini menandakan pengakuan serius terhadap urgensi isu ini. Meskipun diyakini akan sangat berpengaruh, surat ini memicu beragam reaksi di kalangan industri teknologi dan masyarakat luas, terutama karena beberapa pihak mempertanyakan cakupannya yang tidak secara eksplisit membahas Kecerdasan Buatan Umum (AGI) atau superintelligence yang diyakini banyak perusahaan akan segera hadir.

Perdebatan Seputar Kecerdasan Buatan Umum (AGI)

      Salah satu aspek yang paling banyak diperdebatkan dari dokumen Paus adalah ketiadaannya penyebutan AGI atau superintelligence. Paus Leo XIV mengakui bahwa sistem AI "sering kali melampaui kecerdasan manusia dalam kecepatan dan kapasitas komputasi," tetapi ia juga dengan tegas menyatakan bahwa AI "tidak memiliki perspektif afektif, relasional, dan spiritual yang dengannya manusia tumbuh dalam kebijaksanaan." Pandangan ini menempatkan batasan fundamental pada apa yang dapat dicapai AI dibandingkan dengan esensi kemanusiaan.

      Reaksi terhadap keputusan ini bervariasi. Daniel Kokotajlo, seorang peneliti AI dan mantan karyawan OpenAI, mengungkapkan harapannya agar surat tersebut "lebih serius" dalam mempertimbangkan kemungkinan AGI. Di sisi lain, Dr. Guru Sethupathy, GM tata kelola AI di perusahaan perangkat lunak Optro, merasa optimis dengan indikasi bahwa "Paus Leo dan Vatikan tidak menentang AI, melainkan berupaya mengejar jalur yang bertanggung jawab demi kemanusiaan." Fokus Paus pada dampak AI yang ada saat ini, daripada spekulasi tentang masa depan AGI, mencerminkan pendekatan yang lebih pragmatis terhadap tantangan etika dan sosial yang sudah kita hadapi.

Mengapa Fokus pada Dampak Saat Ini Lebih Relevan

      Bagi banyak pihak, termasuk Sister Susan Francois dari Sisters of St. Joseph of Peace, ensiklik ini bukan tentang detail teknis AI, melainkan tentang "melindungi pribadi manusia di era AI." Brian Boyd dari Future of Life Institute menyebutnya sebagai "seruan untuk bertindak daripada serangkaian perintah khusus." Pendekatan ini menunjukkan bahwa Paus memilih untuk membahas implikasi nyata AI terhadap komunitas yang rentan saat ini, dibandingkan dengan risiko hipotetis AGI di masa depan.

      Aaron Fulkerson, CEO Opaque Systems, sebuah perusahaan startup yang membantu pelanggan mengelola data terenkripsi, mendukung pandangan ini. Ia berpendapat bahwa Paus "benar-benar melihat sistem dan menyoroti sesuatu yang akan diakui banyak dari kita di bidang teknologi sebagai risiko sistemik bagi kemanusiaan. Dan saya bahkan tidak berbicara tentang AGI. Saya berbicara tentang ekonomi global kita." Kekhawatiran ini bukanlah hal baru. Insiden seperti masalah pada perusahaan keamanan siber CrowdStrike yang melumpuhkan bank, rumah sakit, dan maskapai penerbangan di seluruh dunia, atau pemadaman Amazon Web Services yang menumbangkan sebagian besar internet, menunjukkan betapa berbahayanya sentralisasi kekuatan teknologi.

Risiko Konsentrasi Kekuatan AI dan Ekonomi Global

      Sentralisasi kekuatan dalam industri teknologi, terutama di tangan segelintir laboratorium AI, menimbulkan risiko yang signifikan terhadap ketahanan global. Fulkerson berargumen bahwa "kita melangkah dalam tidur ke dunia di mana satu atau dua laboratorium adalah infrastruktur kognitif setiap industri di bumi — itu berarti umat manusia jauh kurang tangguh, bukan lebih mampu." Konsentrasi ini dapat mengakibatkan kerentanan sistemik, di mana kegagalan atau bahkan keputusan yang salah dari satu entitas dapat memiliki efek domino yang melumpuhkan secara global.

      Dalam konteks ini, solusi AI yang menekankan kontrol data lokal dan kemampuan adaptasi menjadi sangat penting. Perusahaan seperti ARSA Technology menawarkan pendekatan di mana ARSA AI Box Series dapat memproses stream video di edge, memberikan wawasan instan tanpa ketergantungan cloud atau penggantian infrastruktur. Pendekatan ini mendukung desentralisasi pemrosesan dan menjaga kedaulatan data, sejalan dengan semangat untuk mengurangi risiko sistemik dari konsentrasi kekuatan.

AI sebagai Perjuangan Biblika: Dehumanisasi dan Etika

      Paus Leo XIV memperdalam diskusi dengan membandingkan AI dengan Menara Babel, sebuah struktur yang digambarkannya "ditopang oleh keseragaman yang menghilangkan keragaman dan yang memilih homogenisasi di atas komuni." Paus menyerukan agar dunia "menghindari 'sindrom Babel': penyembahan berhala terhadap keuntungan yang mengorbankan yang lemah, keseragaman yang menetralkan perbedaan, dan kepura-puraan bahwa satu bahasa — bahkan yang digital — dapat menerjemahkan segala sesuatu, termasuk misteri pribadi, menjadi data dan kinerja."

      Dalam pandangannya, AI bukan sekadar teknologi baru, melainkan sebuah perjuangan biblika yang menghadapi godaan kuno untuk dehumanisasi. Paus menekankan bahwa "risiko dehumanisasi adalah godaan kuno dan selalu baru yang hari ini mengambil wujud teknis." Oleh karena itu, dampak jangka panjang dari ensiklik ini kemungkinan besar terletak pada berat pernyataan etis dan filosofisnya, bukan pada detail teknis. Ini adalah panggilan untuk memikirkan kembali bagaimana kita merancang, menyebarkan, dan mengatur AI untuk memastikan bahwa teknologi tersebut melayani kemanusiaan, bukan sebaliknya. Dalam upaya mewujudkan sistem AI yang bertanggung jawab, ARSA Technology telah experienced since 2018 dalam mengembangkan solusi yang tidak hanya efisien tetapi juga beretika, misalnya melalui AI Video Analytics yang menjaga privasi dan keamanan.

      Untuk mengetahui lebih lanjut tentang bagaimana solusi AI dan IoT dapat diimplementasikan secara bertanggung jawab dan sesuai dengan nilai-nilai kemanusiaan dalam bisnis Anda, jangan ragu untuk contact ARSA team.

      Source: The Pope isn’t AGI-pilled