NEW DELHI — Prospek kecerdasan umum buatan (AGI) – sistem yang mampu melakukan tugas kognitif manusia apa pun – telah menginspirasi harapan dan kecemasan. Meskipun AGI dapat menyebabkan peningkatan standar hidup global yang belum pernah terjadi sebelumnya, hal ini juga dapat mengurangi permintaan tenaga kerja manusia secara signifikan, sehingga memicu pengangguran, kerusuhan sosial, dan konflik. Sebagian besar perdebatan tentang AI dalam beberapa tahun terakhir terombang-ambing di antara dua ekstrem ini.
Yang mengejutkan, salah satu analisis paling mendalam mengenai potensi dan bahaya AGI datang dari Sam Altman, CEO OpenAI. Dalam postingan blog yang pertama kali diterbitkan pada tahun 2023 dan diperbarui pada tahun 2025, Altman menunjukkan skeptisisme filosofis yang jarang terjadi di kalangan optimis teknologi. “Kami ingin AGI memberikan umat manusia sarana untuk berkembang secara maksimal di alam semesta,” tulisnya, seraya menyadari bahwa untuk melakukan hal tersebut diperlukan “keberhasilan dalam menghadapi risiko yang sangat besar.”
Tentu saja, beberapa skeptisisme diperlukan ketika menilai potensi manfaat kemajuan teknologi. Sejak Abad Pencerahan, umat manusia semakin menolak takhayul dan dogma demi semangat skeptis dalam penyelidikan ilmiah dan, seiring berjalannya waktu, telah memupuk keyakinan bahwa kemajuan ilmiah pada hakikatnya bermanfaat. Meskipun penemuan-penemuan individual seperti bom atom dapat bersifat destruktif, ilmu pengetahuan secara keseluruhan, yang memberi kita pemahaman lebih dalam tentang alam, dipandang sebagai kekuatan tanpa syarat demi kebaikan dan, lebih jauh lagi, demi kesejahteraan manusia.
Namun, yang sering dilupakan adalah bahwa keyakinan tanpa syarat terhadap sains bisa menjadi sebuah bentuk dogma. Dalam makalah tahun 2024, Jörgen Weibull dan saya menggunakan teori permainan untuk mengeksplorasi dinamika ini. Ketika manusia berinteraksi dalam kondisi ketidakpastian, di mana apa yang rasional bagi seseorang bergantung pada apa yang rasional bagi orang lain, sebuah penemuan ilmiah baru dapat mengungkap situasi yang menyerupai dilema tahanan klasik, di mana perilaku rasional individu mengarah pada hasil yang membuat semua orang menjadi lebih buruk. Kebangkitan AGI bisa menjadi salah satu peristiwa tersebut.
Oleh karena itu, skeptisisme Altman sangat tepat. Ia menyatakan, AGI “memiliki potensi untuk memberikan kemampuan baru yang luar biasa kepada setiap orang,” namun hal ini juga dapat menyebabkan “kecelakaan serius dan gangguan sosial.” Oleh karena itu, tantangannya adalah meminimalkan risiko “kutukan pengetahuan”. Karena masa depan masih belum pasti, hal terbaik yang bisa kita lakukan adalah membuat tebakan dan mengambil tindakan pencegahan yang bijaksana. Altman benar bahwa tantangan-tantangan ini tidak bisa diserahkan sepenuhnya kepada sektor swasta. Untuk mengatasi hal ini diperlukan redistribusi sumber daya dan kerja sama internasional yang terpadu.
Mungkin dampak paling serius dari AGI adalah penurunan permintaan tenaga kerja. Yang penting, hal ini tidak berarti bahwa masyarakat tidak akan melakukan apa pun; nyatanya, mereka dapat menikmati waktu luang yang belum pernah ada sebelumnya. Namun jika pekerjaan didefinisikan seperti yang ada dalam buku pelajaran ekonomi – seperti aktivitas apa pun yang dilakukan untuk mendapatkan bayaran – dunia yang didorong oleh AGI di mana kinerja mesin lebih baik daripada manusia di hampir semua bidang dapat membuat pekerjaan menjadi ketinggalan jaman.
Mengingat sebagian besar orang dewasa bergantung pada pendapatan dari pekerjaan untuk bertahan hidup, transformasi seperti ini dapat menghilangkan mata pencaharian miliaran orang. Oleh karena itu, Altman menganjurkan pendapatan dasar universal (UBI), yang akan menjamin standar hidup minimum setiap orang.
Namun itu pun mungkin tidak cukup. Selain dampaknya terhadap lapangan kerja dan pendapatan, AGI juga dapat mengantarkan era otoritarianisme global. Jika kendali atas sistem-sistem ini menjadi sangat terkonsentrasi, sekelompok kecil miliarder besar akan memiliki kekuasaan yang belum pernah terjadi sebelumnya atas seluruh umat manusia. Seperti pendapat Altman, untuk mencegah hal tersebut terjadi, diperlukan “manfaat, akses, dan tata kelola AGI yang dibagi secara luas dan adil.”
Seperti halnya UBI, akses luas terhadap AGI hanyalah sebagian dari solusi. Hal yang juga penting adalah menghindari konsentrasi kekayaan dan kekuasaan secara ekstrem yang dapat mendorong masyarakat melampaui titik di mana demokrasi digantikan oleh otoritarianisme. Untuk mencapai tujuan tersebut, yang diperlukan adalah pembagian dasar universal (universal base share): sebuah sistem yang membatasi pembagian kekayaan dunia yang dapat dimiliki oleh individu atau kelompok kecil.
Hal ini penting tidak hanya bagi masyarakat miskin tetapi juga bagi banyak orang kaya. Di dunia di mana beberapa ribu orang mengendalikan tuas AGI, bahkan para jutawan masa kini pun bisa saja menjadi bagian dari kelas bawah di masa depan.
Kaushik Basu, mantan kepala ekonom Bank Dunia dan kepala penasihat ekonomi untuk pemerintah India, adalah seorang profesor ekonomi di Cornell University dan peneliti senior non-residen di Brookings Institution. Artikel ini didistribusikan oleh Project Syndicate.
