Paus Leo memperingatkan bahwa Silicon Valley sedang membangun Menara Babel baru – 5 peringatan utama dari ensiklik penting Vatikan tentang AI

Paus Leo

Vatikan merilis Magnifica Humanitas – bahasa Latin yang berarti “kemanusiaan yang luar biasa” – pada tanggal 19 Mei 2026, menjadikannya ensiklik kepausan pertama yang ditujukan terutama untuk kecerdasan buatan. Paus Leo

Paralelnya disengaja. Sama seperti Leo XIII yang membahas pergolakan kerja mekanis di abad ke-19, Leo XIV memaparkan posisi moral Gereja Katolik pada apa yang ia lihat sebagai titik perubahan peradaban. Dokumen tersebut ditujukan untuk 1,4 miliar umat Katolik di dunia, namun argumennya tidak hanya mencakup bangku gereja.

Menara Babel: Peringatan utama Paus Leo tentang AI dan kekuatan

Gambaran ensiklik yang paling mencolok adalah Menara Babel, kisah alkitabiah dari Kejadian di mana umat manusia yang bersatu berupaya membangun sebuah struktur “yang puncaknya sampai ke langit” – hanya agar Tuhan menyebarkan mereka ke seluruh bumi dalam berbagai bahasa dan budaya.

Leo menggunakan cerita ini untuk memperingatkan terhadap kecenderungan homogenisasi kecerdasan buatan: pemusatan kekuasaan di tangan segelintir orang, terkikisnya keragaman budaya, dan keangkuhan dalam meyakini bahwa sistem buatan manusia dapat menggantikan kebenaran moral dan spiritual yang lebih dalam. Ketika budaya global menjadi lebih homogen dan teknologi menjadi bahasa universal, seruan Paus untuk bersikap rendah hati dan pluralisme sangat kontras dengan ambisi perusahaan-perusahaan teknologi terbesar di dunia.

Referensi ini juga mengingatkan kita bahwa dilema etika dan sosial yang ditimbulkan oleh AI bukanlah hal baru. Umat ​​​​manusia telah menghadapi ketegangan antara ambisi teknologi dan keterbatasan manusia.

AI bukanlah manusia: argumen dasar ensiklik tersebut

Inti dari Magnifica Humanitas adalah pernyataan filosofis yang tegas: kecerdasan buatan bukanlah manusia. Sekalipun sistem AI mendekati kognisi manusia atau bahkan tampak meniru kehidupan emosional, menurut Leo, sistem tersebut tetap berbeda dari manusia.

Ini bukanlah hal yang sepele. Beberapa peneliti dan pemikir terkemuka di bidang ini mulai mempertanyakan apakah sistem AI benar-benar dapat merasakan atau mengekspresikan emosi manusia. Ensiklik ini secara langsung menentang pandangan ini, dengan menarik garis yang jelas antara mesin dan manusia – sebuah garis yang dilihat Paus sebagai landasan semua etika yang koheren di era digital.

Dokumen tersebut menggunakan kata “martabat” sebanyak 100 kali.

Lima peringatan utama dari Paus Leo mengenai kecerdasan buatan

Ensiklik tersebut menyajikan serangkaian risiko terstruktur yang menurut Leo dapat ditimbulkan oleh ras AI global terhadap masyarakat manusia:

1. AI mengikis penilaian manusia

Dengan memberikan jawaban instan, sistem AI berisiko melemahkan kreativitas, ketajaman, dan apa yang Paus sebut sebagai kesabaran yang diperlukan untuk mencari kebenaran.

2. AI menyimulasikan kepedulian tanpa hubungan

Pengguna yang rentan, terutama mereka yang menggunakan chatbot untuk mendapatkan dukungan emosional atau bimbingan spiritual, mungkin salah mengira empati buatan sebagai hubungan antarmanusia yang nyata.

Data, kekuatan komputasi, dan pengaruh peraturan terkonsentrasi pada sejumlah kecil aktor, sehingga memperbesar kesenjangan yang ada dibandingkan menyelesaikannya.

4. AI mengganggu stabilitas demokrasi

Amplifikasi disinformasi dan kebingungan antara kenyataan dan fiksi merupakan ancaman langsung terhadap masyarakat demokratis.

Kalimat paling tegas dari ensiklik ini adalah tentang senjata otonom dan pengambilan keputusan mematikan yang dibantu oleh AI: “Tidak ada algoritma yang dapat membuat perang dapat diterima secara moral. »

Pekerja, upah, dan perbudakan digital baru

Magnifica Humanitas menaruh perhatian besar terhadap dunia kerja, sejalan dengan tradisi ajaran sosial Katolik yang sudah ada sejak Rerum Novarum. Leo mengakui bahwa sistem ekonomi dan teknologi selalu mengalami transformasi radikal, namun menekankan bahwa martabat penting pekerja – termasuk upah yang adil – harus tetap menjadi inti dari setiap tatanan ekonomi baru.

Ia sangat menentang apa yang ia sebut sebagai “bentuk-bentuk perbudakan baru” yang terkait dengan ekonomi digital. Ini termasuk kaum muda yang dipekerjakan dengan upah minimal dalam peran pelabelan data dan moderasi konten, serta anak-anak yang bekerja dalam kondisi berbahaya untuk menambang logam tanah jarang yang mendukung industri AI.

“Jenazah orang-orang ini ditandai, dilukai, dan dipakai, sehingga aliran komputer dapat terus berjalan tanpa gangguan,” tulis Paus.

Tentang kekuasaan, moralitas, dan siapa yang mendefinisikan nilai-nilai AI

Salah satu bagian paling bermuatan politis dalam ensiklik ini menjawab pertanyaan tentang kerangka moral apa yang akan dibangun dalam sistem AI. Menyadari bahwa AI “dapat menjadi alat yang berharga,” Leo memperingatkan bahwa teknologi “cenderung memperkuat kekuatan mereka yang sudah memiliki sumber daya ekonomi, keahlian, dan akses terhadap data.”

Tanpa pengawasan dan transparansi yang memadai, “mereka yang mengendalikan AI akan memaksakan visi moral mereka sendiri, yang akan menjadi infrastruktur sistem yang tidak terlihat.”

Kesimpulannya jelas: “AI yang lebih bermoral tidaklah cukup jika moralitas ini ditentukan oleh beberapa orang.”

Anak-anak, layar dan AI: dimensi pastoral Magnifica Humanitas

Ensiklik ini bukan sekedar dokumen filsafat moral yang luas. Laporan ini juga membahas realitas praktis yang dihadapi keluarga-keluarga Katolik di seluruh dunia. Leo mengulas penelitian tentang dampak teknologi terhadap perkembangan anak, dan memperingatkan bahwa akses dini dan tanpa pengawasan terhadap ponsel pintar membuat anak-anak rentan terhadap kecanduan, pelecehan, dan eksploitasi seksual.

Ia juga khawatir bahwa generasi muda akan menggunakan chatbot AI sebagai pengganti persahabatan manusia atau dukungan kesehatan mental profesional – sebuah fenomena yang menurut para pengamat sudah tersebar luas di luar komunitas Katolik.

Tidak ada teknologi yang dapat menghilangkan martabat seseorang: inti humanis dari ensiklik tersebut

Di setiap bagian Magnifica Humanitas terdapat satu penekanan: nilai manusia tidak dapat diukur dalam satuan produktivitas atau efisiensi TI.

“Namun, nilai seseorang tidak bergantung pada apa yang mereka capai atau hasilkan,” tulis Leo. “Ada hak-hak yang berlaku bagi setiap orang hanya karena menjadi manusia.”

Manusia, diakui Paus Fransiskus, semakin tidak tertandingi oleh teknologi yang mereka ciptakan – jika kinerja diukur dalam istilah yang dingin dan sempit. Namun Leo menulis dengan penuh kasih sayang terhadap kerentanan dan keterbatasan manusia. Dokumen tersebut diakhiri dengan harapan “agar kita dapat menjadi saksi keagungan umat manusia di mana Tuhan berdiam.”

Tanggapan Silicon Valley dan posisi strategis Vatikan

Keputusan Vatikan untuk mengundang Christopher Olah, salah satu pendiri Anthropic, untuk berpartisipasi dalam presentasi resmi ensiklik tersebut pada hari Senin secara luas dipandang sebagai sinyal niat Gereja.

Berbeda dengan ensiklik iklim Laudato Si’ Paus Fransiskus tahun 2015, yang tidak dihadiri oleh perwakilan perusahaan minyak, Magnifica Humanitas diluncurkan di hadapan seorang tokoh terkemuka di industri AI.

“Dengan dokumen ini, Paus Leo mengumumkan dirinya sebagai salah satu tokoh terkemuka dalam etika AI.” aksio mengutip Meghan Sullivan, direktur Institut Etika dan Kebaikan Bersama Notre Dame.

Menurut aksio Dalam laporannya, Mirela Oliva, profesor filsafat di Universitas St Thomas, mengatakan ensiklik Leo sebaiknya tidak dianggap sebagai penolakan terhadap AI, melainkan sebagai seruan untuk membentuk “zaman AI” yang mengutamakan martabat manusia. “Paus menyerukan pedoman baru untuk AI, dan pedoman baru ini harus dikembangkan dari bawah ke atas, bukan dari atas ke bawah.”

aksio Menurut Dan Rober, seorang profesor studi Katolik di Sacred Heart University, dampak paling lama dari ensiklik ini mungkin terletak pada apakah bahasa Leo akan mulai membentuk perdebatan mengenai regulasi AI. Dia menambahkan bahwa peringatan Paus tentang anak-anak, layar, dan platform AI dapat “bergaung jauh di luar lingkungan Katolik.”

Bagaimana Magnifica Humanitas dibandingkan dengan Rerum Novarum?

Persamaan 135 tahun antara kedua ensiklik tersebut merupakan klaim sejarah paling ambisius dari dokumen tersebut. Rerum Novarum tidak serta merta mengubah undang-undang ketenagakerjaan, namun selama beberapa dekade, istilah “upah yang adil” dan hak-hak pekerja telah menjadi perdebatan politik di seluruh dunia.

Menurut Waktu New York Luke Burgis, pendiri Cluny Institute, yang mempelajari hubungan antara iman, akal dan teknologi, mengatakan: “Ensiklik ini adalah benang merah yang benar-benar berpotensi mengubah apa yang sedang dibangun di Silicon Valley. Ensiklik ini dapat membantu memberikan orang kosa kata untuk memahami sesuatu yang baru, sama seperti Rerum Novarum membantu orang memahami konsep upah yang adil. »

Namun, dia memperingatkan bahwa perubahan tidak akan terjadi secara cepat. “Gereja baru memulai pekerjaannya di sini. Gereja harus menghadapi kekuatan tandingan yang saat ini jumlahnya jauh lebih besar, baik dari segi modal maupun perhitungan.”