Sebuah catatan terhadap Pesan Perdamaian Paus Fransiskus 1 Januari 2024
Saya berharap refleksi ini mendorong upaya untuk menjamin bahwa kemajuan dalam mengembangkan bentuk-bentuk kecerdasan buatan, pada akhirnya, akan melayani tujuan persaudaraan umat manusia dan perdamaian.
(Kecerdasan Buatan dan Perdamaian, Paus Fransiskus)
Demikian ajakan Paus Fransiskus dalam pesannya pada Hari Perdamaian Sedunia ke-57 yang dirayakan pada 1 Januari 2024. Dua tema, Artificial Inteligence (AI) dan Perdamaian, tampaknya tidak terkait satu dengan yang lainnya. Namun demikian, pemimpin tertinggi Gereja Katolik Roma melihat adanya keterkaitan antara keduanya. Kemajuan sains dan teknologi dengan AI-nya merupakan buah dari kemampuan intelek manusia sebagai imago Dei demi perwujudan dan pemenuhan kehendak-Nya, yaitu, perdamaian. Dengan kata lain, AI perlu dilihat sebagai buah kreativitas kecerdasan akal budi manusia yang dianugerahkan oleh Tuhan bagi keselamatan manusia dan seluruh alam ciptaan.
Berangkat dari kesadaran biblis tersebut maka seluruh upaya manusia untuk mengembangkan dirinya baik secara pribadi maupun dalam kehidupan bersama, secara khusus dengan bantuan sains dan teknologi seperti AI, haruslah sesuai dengan citra manusia sebagai gambar-Nya dan kehendak pencipta-Nya, yakni: membawa kepenuhan atas ciptaan dan menyerbarluaskan perdamaian antara sesama manusia. Kesadaran biblis inilah yang mendorong kemajuan sains dan teknologi, seperti AI, sebagai jalan dan sarana menuju kehidupan bersaudara dan terciptanya perdamaian.
Optimisme terhadap AI dalam menciptakan perdamaian dan kehidupan bersama yang lebih baik tidaklah mengabaikan sisi resiko dari AI. Sebagaimana dua sisi mata uang, masa depan dari perkembangan AI memberikan janji positif namun pada saat yang sama membawa resiko yang mengancam perdamaian dan kelangsungan kehidupan manusia.
Dalam bidang kesehatan misalnya, AI membantu untuk mungumpulkan data dari perangkat mesin cerdas yang digunakan untuk mengamati tanda-tanda vital pasien yang menerima perawatan kritis sehingga membantu dokter dalam mendiagnosa dan mengambil keputusan dalam tindakan lebih lanjut terhadap pasien. AI juga membantu pekerjaan dan produksi yang lebih efisien dan efektif, menciptakan alat-alat transportasi yang lebih nyaman dan aman, dan membantu manusia dalam pengumpulan data dan pengambilan keputusan berdasarkan data.
Namun di sisi lain, perkembangan AI juga digunakan secara negatif, misalnya dalam perang yang terjadi antara Israel dan Hamas. Israel menggunakan AI untuk melokalisasi dan menentukan tempat-tempat strategis yang akan dihancurkan dengan bantuan AI, yang disebut dengan “Habsora” (The Gospel, dalam bahas Inggris atau Injil dalam bahasa Indonesia). Menurut Jurnal lokal +972 Magazine, penggunaan the Gospel Platform juga membawa akibat pada jatuhnya korban masyarakat sipil dalam operasi IDF terhadap Hamas di Gaza. Jadi, resiko AI tidak hanya membawa korban terhadap pasukan Hamas tetapi juga terhadap masyarakat sipil.
Satu hal yang perlu diberi perhatian lebih adalah perkembangan teknologi (AI) yang mampu beroperasi secara independen dan otomatis, lewat machine learning atau deep learning, dalam menghasilkan teks-teks yang koheren secara sintaksis dan semantik. Kemampuan teknologi ini, menurut Paus, tidak menjamin kepercayaan, integritas dan kebenarannya. Perangkat-perangkat teknologi ini dikatakan “berhalusinasi”, yaitu membuat pernyataan yang sekilas tampak masuk akal tetapi tidak berdasar atau mengandung bias. ChatGPT misalnya, bisa menjawab pertanyaan-pertanyaan yang kita berikan kepadanya lewat jawaban teks yang koheren secara sintaksis dan semantik. Memberi informasi yang tampaknya logis dan sistematis. Tapi, kerapkali jawaban tersebut tidak selalu terpercaya dan benar. Bahkan, kemampuan perangkat cerdas ini menjadi masalah serius ketika AI digunakan dalam kampanye disinformasi yang menyebarkan berita palsu dan menyebabkan meningkatnya ketidakpercayaan terhadap media komunikasi. Privasi, kepemilikan data, dan kekayaan intelektual adalah area lain di mana teknologi AI mengakibatkan dan menimbulkan risiko besar. Kita bisa menambahkan konsekuensi negatif lain dari penyalahgunaan teknologi AI, seperti diskriminasi, intervensi pemilihan umum, kontrol penguasa terhadap masyarakat, pengucilan digital, dan meningkatnya individualisme yang memutus relasi individu dengan masyarakat sosial. Menurut Paus, semua faktor ini berisiko memicu konflik dan menghambat perdamaian.
Dalam pandangan pemimpin Gereja Katolik, perkembangan teknologi berdampak buruk dan membawa akibat negatif ketika paradigma teknokratis, pemujaan mitos kemajuan yang tidak terbatas dan pengabaian hakekat keterbatasan manusia menjadi aspek-aspek dominan di dalamnya. Paradigma teknokratis – sebagaimana telah diuraikan dalam Laudato Sì (2015), khususnya pada bab ketiga, no. 106 – merupakan sebuah cara melihat realitas baik fisik, biologis, sosial hanya sebagai sebuah objek yang tersedia secara tidak terbatas bagi manusia untuk dimanipulasi demi keuntungan ekonomis. “Teknologi yang, dalam kaitan dengan kepentingan bisnis, menawarkan diri sebagai satu-satunya cara untuk memecahkan masalah-masalah ini (baca: polusi dan pencemaran), pada kenyataannya, biasanya tidak mampu melihat jaringan hubungan yang tersembunyi antara banyak hal, lalu kadang-kadang memecahkan satu masalah hanya untuk menciptakan yang lain” (no.20). Jadi pencarian profit merupakan tujuan dari dominasi realitas yang difasilitasi dengan paradigma teknokratis ini. Profit menjadi ukuran semua hal dan menjadi kriteria satu-satunya dalam melihat realitas bahkan dalam relasi sosial kita. Perkawinan keduanya, paradigma teknokratis dan pencarian profit, menjadi cikal bakal dampak negatif dari teknologi.
Aspek kunci lain adalah pemujaan pada mitos kemajuan yang tidak terbatas. Logika pencarian profit secara maksimum dengan pembiayaan proses produksi yang minimum, dengan penggunaan rasionalitas instrumental demi kemajuan nir-batas merupakan janji-janji ilutif teknologi sebagai solusi untuk semua persoalan yang dihadapi manusia. Mitos ini menyebabkan adanya sikap ketidakpedulian terhadap rumah bersama dan kurangnya perhatian untuk memajukan masyarakat yang terpinggirkan dalam kehidupan sosial (Laudate Deum no. 31). Pada kenyataannya solusi terhadap persoalan yang dihadapi manusia – seperti krisis ekologi, krisis iklim dan lingkungan, persoalan imigran, kelaparan, konflik, perang dan sebagainya – tidak hanya berasal dari desain, proyek dan penyebaran teknologi. Solusi terhadap persoalan tersebut meniscayakan pertama dan terutama kesediaan untuk terbuka dan bekerjasama, kehendak untuk bersatu dalam mewujudkan tujuan dan cita-cita bersama dengan menempatkan martabat dan hak-hak manusia sebagai pusat dan prioritas.
Pengabaian atas keterbatasannya adalah bentuk arogansi manusia yang menyebabkan munculnya dampak buruk dan negatif dari teknologi (AI). “[…] suatu aspek yang sering diabaikan dalam mentalitas aktual, yang teknokratis dan efisiensi, yang sangat menentukan bagi perkembangan pribadi dan sosial:” rasa keterbatasan” (Kecerdasan Buatan dan Perdamaian, no 4.). Progresivitas teknologi yang masif seakan-akan menjadikan manusia melupakan hakekat dirinya sebagai makhluk yang terarah kepada kematian, fana, dan dengan demikian, terbatas. Benar bahwa teknologi membantu manusia untuk “melampaui” keterbatasannya, namun ada resiko kita kehilangan kontrol terhadap diri kita sendiri sebagai manusia karena terobsesi pada hasrat mengontrol semua realitas. Di sini muncul paradoks, di satu sisi manusia terbatas namun pada susi lain ia ingin mengontrol semua realitas kehidupan dengan hasrat kebebasan absolutnya.
Kecerdasan buatan (AI), yang merupakan bentuk mutakhir teknologi, perlu ditemani dengan nilai-nilai etis, baik dalam proses penemuan dan manipulasinya serta – secara khusus – dalam penggunaannya bagi semua kehidupan, manusia dan alam ciptaan. Membiarkan penemuan dan manipulasi teknologi berlari sendiri dalam pada track-nya tanpa nilai-nilai etika adalah sebuah malapetaka. Menggunakan teknologi hanya untuk kepentingan profit dengan mengorbankan manusia dan alam ciptaan adalah bencana.
Oleh karena itulah, Paus Fransiskus menyerukan secara kontinyu agar manipulasi teknologi dan penggunaannya perlulah menghormati dan menjunjung tinggi nilai-nilai kemanusiaan dan keutuhan alam ciptaan, keunikan tiap-tiap individu manusia dan menempatkan martabat serta hak-hak manusia sebagai basis. “Pertimbangan etika juga harus diperhitungkan sejak awal penelitian, dan terus berlanjut hingga fase eksperimen, desain, produksi, distribusi, dan pemasaran”. (Kecerdasan Buatan dan Perdamaian, no 4.). Upaya ini hanya bisa dilakukan jika ada keterbukaan dan dialog lintas-disiplin ilmu yang terarah kepada pengembangan sebuah etika algoritma, sebuah algoritma yang bersifat etis, dimana nilai-nilai manusia dan keutuhan alam ciptaan serta harapan akan masa depan yang lebih baik menjadi tujuan dari perkembangan kecerdasan buatan dari fase awal penelitian hingga penggunaannya.
Pendidikan dan pengembangan hukum-hukum internasional dalam menghadapi kecerdasan buatan menjadi dua alternatif mendesak. Paus mendorong negara-negara berdaulat dan organisasi-organisasi internasional serta seluruh komunitas-komunitas global untuk dapat “bekerja sama dalam rangka mengadopsi perjanjian internasional yang mengikat yang mengatur pengembangan dan penggunaan kecerdasan buatan dalam berbagai bentuk” (Kecerdasan Buatan dan Perdamaian, no. 8). Tujuan dari regulasi ini adalah mencegah praktik-praktik negatif dan berbahaya dari penggunaan kecerdasan buatan serta mendorong praktik-praktik terbaik dengan menstimulasi pendekatan yang kreatif dan baru yang diinisiatif baik oleh individu maupun kelompok yang berkehendak baik demi kesejahteraan kita dan alam semesta, rumah kita bersama.
Pendidikan diharapkan mampu menstimulasi pemikiran yang kritis dan etis. “Pendidikan dalam penggunaan bentuk-bentuk kecerdasan buatan haruslah bertujuan untuk mendorong pemikiran kritis (Kecerdasan Buatan dan Perdamaian, no. 7). Dengan kekritisan, yang terdidik mampu memfilter banjir informasi yang diterima agar tidak terjebak dalam fake news dan indoktrinasi nilai-nilai yang merusak kehidupan bersama. Sebaliknya, dengan pendidikan diharapkan peserta didik mampu menjadi pribadi yang dewasa dan terbuka, mampu membuka diri terhadap liyan, membangun jembatan bukan tembok serta berorientasi pada kerjasama bagi kebaikan bersama.
Pada akhirnya, realitas kehidupan jauh lebih luas dan penuh ketidakpastian, sehingga upaya untuk mengklasifikasikannya, memanipulasinya dan mendominasinya dengan kecerdasan buatan (AI) adalah kesia-siaan. Sebaliknya, kecerdasan buatan adalah salah satu cara bukan satu-satunya untuk melihat realitas yang luas ini. Dan karena kemampuannya yang mengagumkan dan berdampak masif, kecerdasan buatan perlulah diarahkan untuk perdamaian dan kehidupan bersama yang lebih baik.