Kecerdasan buatan dan ajaran Katolik

IA dengan mudah ditempatkan di pihak insinyur, start-up, atau laboratorium, bukan di pihak moral. Ini adalah kesalahan sudut pandang. Cara sebuah masyarakat merancang, menerapkan, dan mengarahkan kekuatan teknisnya mempertaruhkan citra manusia-nya, keadilan-nya terhadap yang paling lemah, dan makna yang ia berikan kepada kemajuan. IA adalah, dari ujung ke ujung, sebuah pertanyaan sosial.

Sebuah « pertanyaan sosial » yang utama

Tidak ada lagi bidang penting dalam kehidupan yang luput dari IA. IA menentukan cara orang bekerja (otomatisasi, penyaringan lamaran, organisasi kerja), cara orang berobat (bantuan diagnosis, pencitraan), cara orang memperoleh informasi (media, jejaring, rekomendasi algoritmik), cara orang dihakimi (peradilan prediktif, scoring sosial, pengawasan), bahkan cara orang berperang (senjata otonom). Antiqua et nova menegaskannya: IA « menandai sebuah fase baru yang penting dalam hubungan umat manusia dengan teknologi »^[2]. Sebuah realitas yang memengaruhi semua pilihan kolektif itu bukan lagi sekadar alat kecil: ia telah menjadi fakta peradaban, dan dengan itu objek yang sah dari ajaran sosial dan moral Gereja.

Sebuah revolusi industri baru: dari Leo XIII ke Leo XIV

Kesinambungannya mencolok. Pada tahun 1891, di hadapan gelombang besar revolusi industri pertama (pabrik, proletariat, konflik modal dan kerja), Leo XIII menerbitkan Rerum novarum, akta kelahiran ajaran sosial modern^[3]. Lebih dari satu abad kemudian, justru perbandingan inilah yang memandu pilihan nama Leo XIV, paus pertama yang terpilih di zaman IA:

« Paus Leo XIII, dengan ensiklik bersejarah Rerum novarum*, telah membahas pertanyaan sosial dalam konteks revolusi industri besar yang pertama; dan kini Gereja menawarkan kepada semua orang warisan ajaran sosialnya untuk menjawab revolusi industri yang lain serta perkembangan kecerdasan buatan, yang mengajukan tantangan-tantangan baru bagi pembelaan martabat manusia, keadilan, dan dunia kerja. »* Leo XIV, Pidato di hadapan Dewan Kardinal, 10 Mei 2025^[4]

IA karena itu tidak diperlakukan sebagai keanehan teknis, melainkan sebagai sebuah mutasi antropologis sebesar mutasi yang melahirkan ajaran sosial. Inilah ukuran keseriusan yang diberikan Gereja kepadanya.

Sebuah perenungan yang matang selama dua puluh tahun

Wicara Gereja tentang IA tidak ada yang dadakan. Ia berakar pada satu abad perenungan tentang teknologi, dari Gaudium et Spes (1965) sampai Laudato Si' (2015), dan makin tajam secara beruntun sejak 2020: Rome Call for AI Ethics (Akademi Kepausan untuk Kehidupan, 2020), Pesan untuk Hari Perdamaian Sedunia 2024 yang seluruhnya berfokus pada IA, Pesan untuk Hari Komunikasi Sosial Sedunia 2024, pidato Paus Fransiskus di KTT G7 (Juni 2024, campur tangan pertama seorang paus di hadapan KTT G7) dan, sebagai puncak doktrinalnya, nota Antiqua et nova (Januari 2025). Percepatan ini menunjukkan bahwa Gereja telah mengukur betapa mendesaknya hal ini.

Apa yang dibahas artikel ini, dan apa yang dirujukkannya ke tempat lain

Untuk tetap jelas, artikel ini berada di tingkat prinsip dan pertanyaan-pertanyaan sosial besar. Medan-medan khusus dibahas tersendiri:

• klaim untuk membentuk ulang manusia, "meningkatkannya" atau membuatnya kekal lewat peleburan dengan mesin → transhumanisme ;
• manipulasi terhadap yang hidup (rekayasa genetik, prokreasi, CRISPR) → bioetika ;
• manusia yang terhubung: ketergantungan pada layar, kehilangan yang nyata, isolasi → kecanduan, kesepian modern, kebenaran di media ;
• hubungan umum manusia dengan kekuatan teknisnya → teknologi dan manusia, yang artikel ini merupakan penerapan khususnya.

Di sini, kita mencari kompas Katolik yang khas bagi kecerdasan buatan.

Sebelum menghakimi, kita harus memahami, dan terlebih dahulu melepaskan diri dari gambaran-gambaran fiksi ilmiah. IA yang nyata bukanlah otak elektronik yang sadar, bukan pula robot yang berniat jahat: ia adalah kumpulan metode statistik yang belajar dari jumlah data yang sangat besar.

Sebuah « galaksi » teknologi, bukan satu perkara tunggal

Paus Fransiskus sudah memperingatkan sejak 2024 bahwa kita harus berjaga-jaga terhadap cara berbicara tentang IA seolah-olah ia satu kesatuan:

« Kecerdasan buatan karena itu harus dipahami sebagai sebuah galaksi realitas-realitas yang berbeda-beda dan kita tidak dapat berasumsi secara a priori bahwa perkembangannya akan berkontribusi secara menguntungkan bagi masa depan umat manusia dan bagi perdamaian antarbangsa. » Paus Fransiskus, Pesan untuk Hari Perdamaian Sedunia ke-57, no. 2 (1 Januari 2024)^[5]

Secara konkret, IA mencakup keluarga-keluarga yang sangat berbeda: sistem-sistem yang mengklasifikasi (mendeteksi tumor pada sebuah rontgen, menyaring sebuah surel), yang memprediksi (mengantisipasi kerusakan, kecurangan), yang merekomendasikan (memilih video berikutnya) dan, sejak 2022, sistem-sistem generatif yang memproduksi teks, gambar, suara, atau kode atas permintaan. Sistem-sistem terakhir (model bahasa besar yang dipopulerkan oleh agen percakapan) telah memberikan ratusan juta manusia kesan sedang berbicara dengan sebuah mesin yang cerdas.

IA sempit, IA generatif, « IA umum » : jangan mencampuradukkan segalanya

Tiga tingkat harus dibedakan, karena dalam debat publik keduanya terus-menerus dicampuradukkan:

Mencampuradukkan tingkat-tingkat ini berarti mengaitkan kepada alat-alat statistik yang nyata kekuasaan sebuah kecerdasan yang tidak ada, dan sebaliknya menumbuhkan ketakutan atau harapan yang berlebihan. Antiqua et nova justru mengajak kepada kesederhanaan kosakata semacam ini.

Apa yang dilakukan IA, dan apa yang tidak dilakukannya

Inilah titik yang menentukan, dan ia lebih halus daripada kelihatannya. Sebuah sistem IA dapat memproduksi sebuah puisi, tetapi ia tidak tahu bahwa ia sedang menulis sebuah puisi; ia dapat "menjawab" sebuah pertanyaan, tetapi ia tidak memahami pertanyaannya maupun jawabannya. Ia menghitung rangkaian kata yang paling mungkin. Antiqua et nova merumuskannya tanpa berbelit:

« Ciri-ciri canggihnya memberikan kepada IA kapasitas-kapasitas yang canggih untuk melaksanakan tugas-tugas, tetapi bukan kapasitas untuk berpikir. » Antiqua et nova, no. 12^[6]

Dengan kata lain, IA mensimulasikan hasil-hasil kecerdasan tanpa memiliki tindakannya. Pembedaan yang tampak abstrak ini menentukan seluruh bagian berikutnya: inilah yang melarang memperlakukan sebuah mesin sebagai subjek.

Seluruh debat moral tentang IA bergantung pada satu kata: kecerdasan. Jika kita percaya bahwa mesin itu benar-benar cerdas (dalam arti seperti manusia), maka tidak ada lagi yang menghalangi kita untuk menyerahkan kepadanya keputusan-keputusan manusiawi, melekat kepadanya seperti pada seseorang, atau bermimpi untuk melebur ke dalamnya. Jika kita memahami apa yang memisahkan keduanya secara radikal, semuanya menjadi terang. Inilah inti bagian ketiga Antiqua et nova.

Kata « kecerdasan » sebagian menyesatkan

Istilah "kecerdasan buatan" adalah sebuah analogi, dan sebuah analogi dapat menyesatkan. Dalam tradisi Katolik, kecerdasan bukan sekadar kemampuan memecahkan masalah: ia adalah sebuah fakultas dari seluruh pribadi, yang terbuka kepada kebenaran, kebaikan, keindahan, dan Allah. Dokumen itu karena itu membedakan dengan jelas dua penggunaan kata tersebut:

« Dalam diri manusia, memang, kecerdasan adalah sebuah fakultas yang berkaitan dengan pribadi secara utuh, sedangkan dalam hal IA, ia dipahami dalam arti fungsional. » Antiqua et nova, no. 10^[7]

"Kecerdasan" mesin diukur dari kapasitasnya melaksanakan tugas-tugas; kecerdasan manusia menyentuh apa yang ia ada. Satu kata yang sama menutupi dua realitas yang berbeda tingkatannya, dan mencampuradukkan keduanya adalah jebakan yang pertama.

Kecerdasan manusia adalah menjelma, rohani, dan relasional

Mengapa manusia "berpikir" sedangkan mesin hanya menghitung? Karena kecerdasannya bukan sebuah program yang berputar dalam ruang hampa: ia dipikul oleh sebuah tubuh, digerakkan oleh sebuah jiwa rohani, dan diwujudkan dalam hubungan-hubungan. Manusia mengenal dengan dagingnya, kepekaannya, ingatannya yang terluka dan yang bergembira, kebebasannya, keterbukaannya kepada sesama dan kepada Allah.

« Keterlibatan yang otentik menuntut penerimaan terhadap seluas-luasnya wujud: rohani, kognitif, menjelma, dan relasional. » Antiqua et nova, no. 26^[8]

Sebuah mesin, « yang tidak memiliki tubuh fisik », tidak mengenal apa pun dari semua itu: ia « bersandar pada penalaran dan pembelajaran komputasional »^[9] dan tetap, demikian kata teks itu, « pada dasarnya terbatas dalam kerangka logis-matematis »^[10]. Ia dapat memanipulasi tanda-tanda cinta, duka, atau doa tanpa pernah memiliki pengalamannya. Karena itu ia tidak dapat menggantikan kehadiran seorang sahabat, seorang perawat, atau seorang guru.

Mesin menghitung, ia tidak berpikir

Paus Fransiskus telah merangkumnya di KTT G7, dalam sebuah rumusan yang sengaja sederhana:

« Kecerdasan buatan adalah sebuah alat yang dirancang untuk memecahkan sebuah masalah dan bekerja melalui sebuah rangkaian logis operasi-operasi aljabar. » Paus Fransiskus, Pidato di KTT G7, Borgo Egnazia, 14 Juni 2024^[11]

Sebuah rangkaian operasi-operasi aljabar: inilah hakikat IA yang paling mengesankan sekalipun. Kekuatannya datang dari skala (miliaran parameter, samudera data), bukan dari sebuah percikan pikiran. Konsekuensinya sangat besar: apa yang bukan subjek tidak dapat dianggap bertanggung jawab, dan apa yang tidak berpikir tidak dapat memutuskan kebaikan.

Jika IA bukan pribadi, maka pribadilah yang tetap menjadi ukuran. Seluruh etika Katolik tentang IA bersumber dari satu prinsip: martabat manusia yang tidak dapat dicabut, yang diciptakan menurut gambar Allah. Dialah yang menetapkan apa yang diperbolehkan dan apa yang tidak pernah diperbolehkan.

Nilai manusia tidak terletak pada prestasinya

Dalam sebuah budaya yang terobsesi oleh kinerja, IA berisiko membuat orang percaya bahwa manusia "bernilai" sebesar apa yang ia hasilkan, hitung, atau capai. Antiqua et nova membalikkan logika ini dengan tegas, dan di situlah juga terletak jawaban terhadap transhumanisme:

« Nilai seseorang tidak bergantung pada penguasaan kapasitas-kapasitas yang luar biasa, pada pencapaian-pencapaian kognitif dan teknologis, atau pada kesuksesan-kesuksesan individu, melainkan pada martabat intrinsiknya yang berlandaskan pada fakta bahwa ia diciptakan menurut gambar Allah. » Antiqua et nova, no. 34^[12]

Bayi yang baru lahir, penderita Alzheimer, penyandang disabilitas, yang tidak satu pun mesin menilai "berkinerja tinggi", memiliki martabat yang sama dengan sang ilmuwan atau sang juara. Tidak ada sistem penilaian algoritmik, tidak ada ukuran "kegunaan", yang dapat menggerus martabat ini. Inilah yang dibela artikel tetangga tentang martabat pribadi manusia.

Hanya manusia yang adalah subjek yang bertanggung jawab secara moral

Dari martabat mengalir tanggung jawab. Sebuah mesin dapat melaksanakan sebuah perintah, tetapi tidak pernah menjawabkannya di hadapan hati nuraninya. Antiqua et nova menegaskan hal ini: « hanya manusia yang benar-benar adalah seorang agen moral »^[13]. Karena itu selalu ilusif dan berbahaya untuk "menyerahkan" kepada IA sebuah keputusan moral sambil membayangkan bahwa ia memikul bebannya: di balik setiap sistem, ada para perancang, para pemilik, dan para pengguna manusia yang tetap bertanggung jawab atas akibat-akibatnya. Rome Call menjadikannya salah satu prinsipnya: « harus selalu ada seseorang yang memikul tanggung jawab atas apa yang dilakukan sebuah mesin »^[14].

Sebuah etika di layanan pribadi: « algor-etika »

Sejak 2020, Akademi Kepausan untuk Kehidupan telah mempertemukan raksasa-raksasa teknologi (Microsoft, IBM), lembaga-lembaga internasional (FAO), dan Negara Italia di sekitar sebuah teks yang bersifat fondasional, Rome Call for AI Ethics, dan sebuah kata baru: algor-etika, yaitu sebuah etika yang tertanam sampai ke dalam perancangan algoritma-algoritma. Teks itu mengemukakan enam prinsip yang diakui ajaran Katolik sebagai tuntutan-tuntutan martabat manusia:

Prinsip-prinsip ini bukanlah belenggu luar yang dipaksakan kepada teknologi: ia menerjemahkan, dalam bahasa para insinyur, apa yang iman tegaskan tentang manusia^[15].

Satu pertanyaan terus kembali: haruskah kita takut terhadap IA? Jawaban Gereja bersifat berlapis sekaligus tegas. IA adalah kebaikan yang nyata, tetapi sebuah kebaikan yang ambivalen, yang segalanya bergantung pada penggunaan dan tempat yang diberikan kepadanya.

Sebuah buah sah dari kecerdasan yang diciptakan

IA lahir dari kecerdasan yang Allah amanahkan kepada manusia untuk « mengusahakan dan memelihara » bumi (Kej 2, 15). Merancang, menyempurnakan, dan menempatkannya di layanan kebaikan bersama adalah, pada dirinya, sebuah karya yang baik. Antiqua et nova mengaitkan secara eksplisit penelitian ilmiah dan teknis dengan « kerja sama laki-laki dan perempuan dengan Allah »^[16]. Gereja karena itu tidak merindukan masa pra-teknologis: ia mengakui manfaat-manfaat besar yang mungkin dari IA: dalam kedokteran, dalam penelitian, dalam akses kepada ilmu, dalam bantuan kepada mereka yang rentan.

« Martabat intrinsik setiap pribadi dan persaudaraan yang mengikat kita sebagai anggota satu keluarga manusia harus tetap menjadi dasar pengembangan teknologi-teknologi baru. » Paus Fransiskus, Pesan untuk Hari Perdamaian Sedunia 2024, no. 2^[17]

Tetapi tidak ada teknologi yang netral secara moral

Sering kita dengar bahwa « teknologi itu netral, semuanya tergantung pada penggunaannya ». Ini adalah setengah kebenaran yang berbahaya. Sebuah sistem IA sudah mengarahkan perilaku-perilaku: sebuah algoritma rekomendasi tidak netral terhadap perhatian, sebuah sistem penilaian tidak netral terhadap keadilan, sebuah senjata otonom tidak netral terhadap kekerasan. Katekismus mengingatkan hal ini untuk seluruh teknologi:

« Adalah ilusif untuk menuntut netralitas moral penelitian ilmiah dan penerapan-penerapannya. » Katekismus Gereja Katolik, § 2294^[18]

Mengklaim bahwa IA tidak ada hubungannya dengan moral berarti sudah mengambil sebuah posisi moral, yang terburuk, yaitu yang membiarkan lapangan terbuka bagi efisiensi mentah dan kepentingan yang terkuat.

Risiko memperkuat « paradigma teknokratis »

IA dapat menjadi instrumen yang paling kuat dari apa yang disebut Laudato Si' paradigma teknokratis: cara berpikir yang mereduksi yang nyata kepada apa yang dapat dihitung, dimiliki, dan diproduksi^[19]. Antiqua et nova justru memperingatkan terhadap risiko ini dalam bidang ekonomi:

« Kita tidak boleh membiarkan sebuah alat yang sekuat dan sepenting kecerdasan buatan memperkuat paradigma semacam itu. » Antiqua et nova, no. 68^[20]

Bahayanya bukanlah mesinnya, melainkan cara pandang dunia yang dapat dipaksakannya: sebuah dunia di mana segalanya (alam, kerja, informasi, dan akhirnya manusia) menjadi data yang dieksploitasi. Inilah persisnya kemiringan yang digambarkan oleh artikel Teknologi dan manusia.

Justru dalam hal-hal konkretlah kompas itu teruji. Bagian kelima Antiqua et nova meninjau bidang-bidang di mana IA menyentuh kebaikan para pribadi. Kita ambil di sini yang paling menentukan bagi pertanyaan sosial.

IA dan dunia kerja: memerdekakan atau menyingkirkan?

Otomatisasi dapat memerdekakan manusia dari tugas-tugas yang berat dan berulang, sebuah kebaikan yang disambut ajaran sosial. Tetapi ia juga dapat menyingkirkan: memusatkan kekayaan, menghapus lapangan kerja tanpa menciptakan yang baru, mengubah pekerja menjadi sekadar pelengkap mesin. Antiqua et nova menetapkan sebuah batas yang jelas:

« kita tidak seharusnya berusaha menggantikan semakin banyak kerja manusia dengan kemajuan teknologis: hal itu akan merugikan umat manusia itu sendiri » Antiqua et nova, no. 70^[21]

Kerja bukan sekadar biaya yang harus dioptimalkan: ia adalah tempat martabat, penghidupan, dan penggenapan pribadi. Pesan untuk Perdamaian 2024 memperingatkan bahwa, dalam paradigma teknokratis, « ilmu pengetahuan dan kekayaan [dapat] menumpuk di tangan segelintir orang »^[22], dengan mengorbankan kebaikan bersama dan tujuan universal harta benda. Pertanyaannya bukan « haruskah kita mengotomatiskan? » melainkan « di layanan siapa? »: inilah seluruh makna ajaran tentang kerja yang diwarisi dari Rerum novarum.

IA dan perang: « tidak ada mesin yang seharusnya memilih untuk mencabut nyawa »

Inilah barangkali titik yang paling serius. Sistem-sistem senjata otonom dapat memilih dan menghantam sebuah sasaran tanpa campur tangan manusia secara langsung. Padahal memutuskan hidup atau matinya seseorang adalah sebuah tindakan moral yang tidak dapat dipikul oleh perhitungan apa pun. Paus Fransiskus menegaskannya berulang kali di KTT G7:

« Tidak ada mesin yang seharusnya pernah memilih untuk mencabut nyawa seorang manusia. » Paus Fransiskus, Pidato di KTT G7, 14 Juni 2024^[23]

Antiqua et nova mengambil kembali tuntutan yang sama, « Tidak ada mesin yang seharusnya pernah memilih untuk merenggut nyawa seorang manusia »^[24], dan Pesan untuk Perdamaian 2024 memberikan alasan yang mendasarinya:

« Sistem-sistem senjata otonom tidak akan pernah dapat menjadi subjek yang bertanggung jawab secara moral: kapasitas manusia yang khas akan penilaian moral dan keputusan etis adalah lebih dari sekadar kumpulan algoritma yang rumit. » Paus Fransiskus, Pesan untuk Hari Perdamaian Sedunia 2024, no. 6^[25]

Daripadanya muncul seruan kepada pengawasan manusia yang nyata dan permanen atas senjata-senjata, dan kepada sebuah « perjanjian internasional yang mengikat » yang mengatur IA^[26].

IA, disinformasi, dan « deepfake »

IA generatif memungkinkan pembuatan dalam hitungan detik gambar-gambar palsu, suara-suara palsu, pidato-pidato palsu yang tak terbedakan dari yang asli: deepfake. Antiqua et nova mengingatkan bahwa IA « menghasilkan konten-konten yang dimanipulasi dan informasi-informasi palsu yang [...] dapat dengan mudah menyesatkan »^[27]. Pesan untuk Komunikasi Sosial 2024 menyebut keburukan ini sebagai sebuah « polusi kognitif »:

« [Alat-alat itu] juga dapat menjadi instrumen "polusi kognitif", yaitu perusakan realitas oleh narasi-narasi yang sebagian atau seluruhnya palsu yang dipercaya (dan dibagikan) seolah-olah benar. » Paus Fransiskus, Pesan untuk Hari Komunikasi Sosial Sedunia 2024^[28]

Yang dipertaruhkan bukan sekadar kesalahan faktual: melainkan kepercayaan itu sendiri, perekat dari seluruh kehidupan bersama, yang tergerus. Jawaban Katolik sama pentingnya dengan etika para perancang sebagaimana dengan pembentukan hati nurani, sebuah tema yang dikembangkan dalam Kebenaran di media.

IA dan hubungan antarpribadi: risiko kepura-puraan

Aplikasi-aplikasi kini menawarkan "sahabat", "tempat curhat", bahkan "pendamping" buatan. Bahayanya adalah mengambil sebuah tiruan sebagai sebuah hubungan. Antiqua et nova menetapkan aturannya:

« [IA] harus dipandang untuk apa adanya: sebuah alat dan bukan sebuah pribadi. » Antiqua et nova, no. 59^[29]

Karena, demikian kata teks itu, « Meskipun IA dapat mensimulasikan jawaban-jawaban yang empatik, hakikat empati yang otentik yang jelas bersifat pribadi dan relasional tidak dapat direproduksi oleh sistem-sistem buatan »^[30]: sebuah program dapat meniru kata-kata belas kasih, tetapi tidak pernah menghayatinya. Dan risikonya dinyatakan secara eksplisit:

« jika kita menggantikan hubungan-hubungan ini dan hubungan dengan Allah dengan sarana-sarana teknologis, kita berisiko menggantikan hubungan yang otentik dengan sebuah tiruan yang tanpa kehidupan » Antiqua et nova, no. 63^[31]

Menggantikan mesin dengan wajah sesama berarti membuka diri kepada kesepian yang lebih mendalam lagi, seperti yang digambarkan oleh artikel Kesepian modern, dan yang menumbuhkan kecanduan digital.

IA, kehidupan pribadi, dan pengawasan

IA hidup dari data, dan data kita mengatakan siapa kita. Antiqua et nova memperingatkan bahwa data-data itu « tidak hanya membawa informasi, melainkan juga pengetahuan pribadi dan relasional yang [...] dapat menjadi kekuasaan atas individu »^[32]. Pengawasan massal, penilaian sosial, pemetaan profil: IA dapat melayani sebuah kendali yang belum pernah ada atas hati nurani dan perilaku. Penghormatan terhadap martabat menuntut, demikian kata Pesan untuk Perdamaian, untuk « menolak bahwa keunikan pribadi diidentifikasi dengan sekumpulan data »^[33]. Manusia tidak pernah dapat direduksi kepada profilnya.

IA dan rumah bersama

Sering kita tidak menyadarinya: model-model IA besar mempunyai biaya ekologis yang sangat besar. Pelatihan dan pengoperasiannya « membutuhkan energi dan air dalam jumlah besar »^[34] untuk memberi daya dan mendinginkan pusat-pusat data yang raksasa. Pertanyaan tentang IA karena itu bersambung dengan pertanyaan tentang ekologi integral dan penyelamatan ciptaan: sebuah kemajuan yang menghabiskan rumah bersama bukanlah kemajuan yang sejati.

IA dan pendidikan generasi muda

IA dapat menjadi pembantu belajar yang luar biasa, tetapi ia tidak dapat membentuk sebuah kecerdasan maupun mewariskan sebuah kemanusiaan. Antiqua et nova mengingatkan bahwa « sebuah tugas pokok pendidikan adalah membentuk budi agar dapat menalar dengan baik »^[35], yang mensyaratkan usaha, ingatan, dan kesabaran, bukan penyerahan pemikiran kepada sebuah mesin yang "mengerjakan PR". Terlebih lagi, « kehadiran fisik guru menciptakan sebuah dinamika relasional yang tidak dapat direproduksi oleh IA »^[36]. Mendidik berarti membangunkan seorang pribadi lewat pribadi yang lain: tidak ada tutor algoritmik yang cukup untuk itu.

Tabel ringkasan: harapan dan risiko

Seluruh pertanyaan sosial tentang IA dapat dirangkum dalam sebuah kisi: setiap bidang mempunyai sebuah harapan dan sebuah risiko, dan kompasnya tetap sama: pribadi.

Menghadapi taruhan-taruhan ini, Gereja tidak puas hanya dengan membunyikan peringatan: ia mengusulkan penanda-penanda dan menyerukan tindakan. Lima tonggak menyusun wicaranya yang terkini.

Antiqua et nova (2025), sebuah nota rujukan

Diterbitkan pada 28 Januari 2025 oleh Dikasteri untuk Ajaran Iman dan Dikasteri untuk Kebudayaan dan Pendidikan, Antiqua et nova (« perkara-perkara lama dan baru ») adalah teks doktrinal yang paling lengkap sampai saat ini tentang IA. Dalam 117 paragraf, teks ini meletakkan discernemen di atas antropologi Kristen, membedakan kecerdasan manusia dan kecerdasan buatan, dan menelusuri seluruh pertanyaan-pertanyaan sosial besar. Inilah sumber rujukan artikel ini.

Paus Fransiskus: perdamaian, KTT G7, « hikmat hati »

Tahun 2024 menyaksikan tiga campur tangan sekaligus:

• Pesan untuk Perdamaian yang menetapkan bahwa IA tidak dapat dipresumsikan baik a priori dan menuntut agar martabat tetap « menjadi dasar » dari setiap kemajuan;
• pidato di KTT G7, di mana, sebagai paus pertama di hadapan para kepala negara KTT G7, Fransiskus berargumen bagi sebuah « ruang kendali manusia yang bermakna » atas pilihan-pilihan IA, karena « martabat manusia itu sendiri » bergantung padanya^[37];
• Pesan untuk Komunikasi Sosial, yang menghadapkan kepada kebekuan perhitungan « hikmat hati », « kebajikan yang memungkinkan kita menenun bersama keseluruhan dan bagian-bagiannya »^[38].

Rome Call dan « algor-etika »

Lebih awal (2020), Rome Call for AI Ethics mempunyai kelebihan telah mempertemukan di sekitar Gereja para pelaku industri dan internasional di sekitar enam prinsip yang konkret (lihat di atas). Hal ini menunjukkan bahwa ajaran Katolik tidak menolak dialog teknis: ia hendak menanamkan etika sejak perancangan sistem-sistem.

Sebuah seruan untuk mengatur

Sebuah hal yang tetap dalam teks-teks ini: IA tidak dapat ditinggalkan begitu saja kepada hukum pasar atau kekuasaan belaka. Daripadanya muncul seruan Fransiskus kepada « sebuah perjanjian internasional yang mengikat yang mengatur pengembangan dan penggunaan kecerdasan buatan »^[39]. Pengaturan bukanlah musuh inovasi: ia adalah syarat agar inovasi melayani manusia.

Di luar pertanyaan-pertanyaan sosial, Antiqua et nova menunjuk kepada sebuah bahaya yang lebih mendalam, yang bersifat rohani. Pencobaan yang setua manusia itu: menjadikan diri sendiri allah lewat karya-karyanya sendiri.

Pencobaan prometeus

Sebagian penyokong IA tidak ragu-ragu berbicara tentang menciptakan sebuah "kecerdasan" yang melampaui manusia, tentang "mengalahkan kematian", tentang membuat sebuah kesadaran. Ini adalah, dengan pakaian modern, berhala yang kuno. Dokumen itu tanpa berbelit:

« Kesombongan untuk menggantikan Allah dengan sebuah karya dari tangan sendiri adalah sebuah penyembahan berhala. » Antiqua et nova, no. 105^[40]

Manusia yang menyembah kekuatan teknisnya sendiri akhirnya menjadi budak berhalanya. Pesan untuk Komunikasi Sosial berbicara tentang sebuah « khayalan kekuasaan serba bisa » yang darinya manusia harus dibangunkan^[41]. Inilah persisnya medan transhumanisme, yang bermimpi menghapuskan kondisi manusia.

« Apakah manusia benar-benar menjadi lebih baik? »

Kriteria terakhir kemajuan, demikian mengingatkan Antiqua et nova dengan mengutip Santo Yohanes Paulus II, bukanlah kekuasaan yang diperoleh melainkan pertumbuhan manusia batiniah: pertanyaan yang sejati adalah mengetahui « apakah manusia [...] benar-benar menjadi lebih baik, yaitu lebih matang secara rohani »^[42]. Sebuah peradaban dapat melipatgandakan mesin-mesinnya dan mundur dalam kemanusiaannya. Kemajuan teknis hanyalah sebuah kemajuan manusiawi jika ia membuat manusia lebih merdeka, lebih adil, lebih mengasihi.

Hikmat hati, apa yang tidak akan dimiliki mesin mana pun

Menghadapi kebekuan kekuasaan perhitungan, Injil menghadapkan sebuah kecerdasan dari tingkatan yang lain: hikmat hati, buah Roh, yang tahu membedakan kebaikan, mengasihi secara konkret, dan membiarkan diri disentuh Allah. Dialah, bukan kinerja, yang membuat kebesaran manusia, dan yang tidak akan pernah dapat direproduksi oleh sistem mana pun, sekuat apa pun ia.

Discernemen Katolik tidak berhenti pada prinsip-prinsip: ia menyerukan sebuah cara hidup. Beberapa penanda konkret dapat ditarik dari teks-teks ini.

Mempertahankan kendali, tidak mendelegasikan hati nurani

Menggunakan IA sebagai alat, ya; menyerahkan kepadanya keputusan-keputusan kita, penilaian kita, pemikiran kita, tidak. Orang Kristen tetap bertanggung jawab atas apa yang ia hasilkan, bagikan, dan percayai. Memeriksa sumber-sumbernya, menolak menyebarkan konten yang meragukan, memelihara kritisisme: ini adalah tuntutan kasih terhadap kebenaran.

Mengutamakan pribadi di atas layar

Di mana IA menawarkan hubungan-hubungan yang tersimulasikan, orang Kristen memilih hubungan-hubungan yang nyata: kehadiran, wajah, waktu yang diberikan, kesabaran. Perlawanan terhadap kesepian dan kecanduan digital berjalan lewat sebuah keputusan sehari-hari untuk lebih memilih sesama yang hidup daripada pantulannya yang algoritmik.

Menempatkan IA di layanan yang paling lemah

Kriteria Injili itu tetap: apa yang melayani « yang paling kecil » diberkati. IA yang menyembuhkan, yang memasukkan, yang meringankan penderitaan orang miskin menggenapi panggilannya sebagai alat; IA yang mengawasi, menyingkirkan, atau memperbudak mengkhianatinya. Discernemen selalu dilakukan dengan ukuran kebaikan bersama.

Tinggal dalam penyembahan, bukan dalam kekaguman

Akhirnya, obat yang paling mendalam terhadap penyembahan berhala teknis adalah penyembahan kepada Allah yang benar. Manusia yang tahu kepada siapa ia berada tidak berisiko menyembah mesin-mesin buatannya sendiri. Doa, kehidupan sakramental, kontemplasi mengembalikan kepada manusia ukuran yang tepat tentang dirinya: makhluk yang dikasihi, bukan pencipta keselamatannya sendiri.

« Kita akan menjatuhkan umat manusia kepada sebuah masa depan tanpa harapan jika kita mencabut dari orang-orang kapasitas untuk memutuskan diri mereka sendiri dan hidup mereka, dengan mengutuk mereka untuk bergantung pada pilihan-pilihan mesin. » Paus Fransiskus, Pidato di KTT G7, 14 Juni 2024^[43]

Kecerdasan buatan, jika dipandang untuk apa adanya (sebuah alat yang mengagumkan dan menakutkan), dapat melayani manusia dengan sebesar-besarnya. Jika dipandang untuk apa yang bukan dirinya (sebuah pribadi, sebuah kesadaran, seorang allah), ia mengancamnya. Di antara keduanya, batasnya justru adalah batas yang tidak henti-hentinya diingatkan oleh Gereja, yang setia kepada misinya: martabat pribadi manusia yang tidak dapat dicabut.

• Teknologi dan manusia: pandangan Katolik yang menyeluruh tentang hubungan antara manusia dan kekuatan teknisnya, yang IA adalah penerapannya.
• Transhumanisme: klaim untuk "membentuk ulang" atau "meningkatkan" manusia lewat mesin, dan jawaban Katolik.
• Bioetika: manipulasi terhadap yang hidup, rekayasa genetik, dan prokreasi.
• Martabat pribadi manusia: fondasi antropologis dari seluruh etika IA.
• Kebenaran di media: disinformasi, deepfake, dan tanggung jawab orang Kristen.
• Kesepian modern dan Kecanduan: manusia yang terhubung dan risiko kepura-puraan relasional.

Sumber-sumber utama: Dikasteri untuk Ajaran Iman dan Dikasteri untuk Kebudayaan dan Pendidikan, Antiqua et nova (28 Januari 2025); Paus Fransiskus, Kecerdasan buatan dan perdamaian*, Pesan untuk Hari Perdamaian Sedunia ke-57 (1 Januari 2024), pidato di KTT G7 (14 Juni 2024) dan Pesan untuk Hari Komunikasi Sosial Sedunia ke-58 (2024); Akademi Kepausan untuk Kehidupan,* Rome Call for AI Ethics (28 Februari 2020); Leo XIV, pidato di hadapan Dewan Kardinal (10 Mei 2025). Teks-teks resmi di vatican.va.