Ide terkenal Alan Turing tentang kecerdasan buatan mungkin telah mengarahkan penelitian AI ke arah yang salah selama 75 tahun terakhir, menurut ilmuwan komputer terkemuka Peter J. Denning.
Dalam buku barunya, Kesalahan Turing: lepas dari kuk mesin yang tidak cerdasDenning berpendapat bahwa dua asumsi mendasar yang dibuat oleh Turing pada tahun 1950 terus membentuk penelitian AI hingga saat ini. Yang pertama adalah bahwa kecerdasan dapat eksis secara independen dari tubuh fisik dan oleh karena itu diciptakan kembali dalam perangkat lunak komputer. Kedua, mesin dapat mendemonstrasikan kecerdasan dengan berhasil meniru percakapan manusia, sebuah ide yang kemudian dikenal sebagai tes Turing.
“Kedua klaim ini telah membentuk banyak penelitian dan pengembangan AI,” tulis Denning. “Premis saya adalah bahwa penerimaan kami terhadap klaim ini telah menyebabkan kekacauan AI yang kita alami saat ini.”
Denning berpendapat bahwa pengembangan kecerdasan umum buatan (AGI), atau mesin dengan kecerdasan mirip manusia, kemungkinan besar tidak akan berhasil. Sebaliknya, ia memperingatkan, teknologi yang dikembangkan perusahaan dapat menimbulkan risiko baru yang signifikan.
Masalah pengetahuan diam-diam
Inti dari argumen Denning adalah gagasan tentang pengetahuan tacit, sejumlah besar pemahaman manusia yang tidak dapat dengan mudah diungkapkan dengan kata-kata atau direpresentasikan dalam bentuk yang dapat diproses oleh komputer.
Dia mengklaim bahwa pembelajaran mesin tidak dapat menangkap lima kategori besar pengetahuan diam-diam: akal sehat, interaksi sehari-hari dengan manusia dan lingkungan, emosi dan persepsi, keterampilan praktis, dan pengetahuan sosial dan sejarah yang tertanam secara budaya.
Para peneliti telah lama mencoba mengatur akal sehat ke dalam database. Salah satu upaya yang paling terkenal adalah Proyek Cyc Douglas Lenat, yang diluncurkan pada tahun 1980-an dengan tujuan menciptakan banyak kumpulan fakta yang masuk akal. Setelah empat dekade bekerja, proyek ini berisi sekitar 25 juta entri.
“Namun bahkan uang tunai ini tidak dapat memberikan cukup dana yang masuk akal untuk membuat sistem pakar cukup cerdas untuk menjadi ahli,” catat Denning. “Cyc memvalidasi bahwa sebagian besar pengetahuan yang menjadikan seseorang ahli tidak dapat diartikulasikan sebagai proposisi.”
Denning percaya bahwa keterampilan praktis merupakan tantangan yang lebih besar.
“Keterampilan kinerja kami di ribuan area tidak dapat ditransfer ke mesin,” jelasnya. “Meskipun deskripsi hasil yang terampil (“mengetahui apa”) seringkali dapat direpresentasikan sebagai potongan-potongan dan disimpan dalam mesin, kita tidak tahu bagaimana mengkodekan pengetahuan yang terkandung untuk kinerja terampil (“mengetahui caranya”).
Dia mencontohkan musisi berprestasi.
“Seorang pemain biola virtuoso dapat memainkan musik yang indah tetapi tidak dapat menjelaskan kepada seorang pembantunya bagaimana cara memproduksinya.
“Bahkan jika robot dapat mengamati dan meniru manusia berbakat, tanpa memiliki tubuh biologis, robot tidak dapat memahami apa yang dirasakan musisi saat memainkan musik yang indah atau apa yang dirasakan penonton saat mendengarnya.”
Denning juga mencakup intuisi, firasat, imajinasi, dan kreativitas spontan di antara bentuk-bentuk pengetahuan diam-diam yang masih berada di luar jangkauan mesin.
Mengapa pengetahuan manusia menolak pengkodean
Denning berpendapat bahwa semua keterbatasan ini muncul dari apa yang disebutnya “masalah representasi”.
Komputer hanya dapat melakukan penghitungan menggunakan data dan instruksi yang dikodekan dalam bentuk fisik yang dapat dikenali dan diproses. Namun, pengetahuan diam-diam tidak secara alami cocok dengan kerangka ini.
“Di balik setiap kata terdapat pengetahuan mendalam dan tak terucapkan yang memberinya makna,” kata Denning. “Kata-kata hanyalah representasi simbolis dari makna, bukan makna itu sendiri. Model bahasa besar yang umum digunakan, seperti ChatGPT, Claude, dan Gemini, hanya memanipulasi kata, mereka tidak dapat mengetahui atau memahami arti dari apa yang mereka katakan.”
Menurut Denning, hal ini menciptakan kesenjangan mendasar. Karena para ilmuwan masih belum bisa sepenuhnya menjelaskan cara kerja pengetahuan tacit pada manusia, mereka juga belum bisa menerjemahkannya ke dalam bentuk yang bisa digunakan mesin.
“Bagaimana kita menyimpan pengetahuan diam-diam masih menjadi misteri,” Denning mengakui. “Yang kami tahu hanyalah hal itu terwujud. Kami tidak tahu apa yang mungkin kami amati dan ukur di tubuh kami untuk mengungkapnya.”
Konteks dan budaya membentuk kecerdasan
Denning juga berpendapat bahwa kecerdasan sangat bergantung pada konteks, keadaan sekitar yang memberikan makna pada kata-kata, tindakan, dan keputusan.
Konteks memungkinkan orang mengenali sarkasme, humor, ketulusan, dan emosi. Hal ini membantu menentukan kapan harus bersikap diplomatis, kapan harus bercanda, dan bagaimana menafsirkan isyarat sosial yang tak terhitung jumlahnya.
“Saat Anda mencari asal muasal hipotesis dari konteks saat ini, Anda akan menemukan bahwa hipotesis tersebut didasarkan pada percakapan sebelumnya dari konteks sebelumnya. Masing-masing hipotesis bergantung pada percakapan sebelumnya dan konteksnya. Pola ini tidak ada habisnya dan fraktal,” jelas Denning.
Hambatan utama lainnya bagi AI adalah budaya.
Denning menggambarkan budaya sebagai mencakup nilai-nilai, norma, penilaian, sejarah, komunitas, suasana hati, dan bahkan hubungan yang melibatkan kekuasaan dan perhatian.
“Percakapan manusia dipenuhi dengan asumsi dasar yang memberikan makna dan relevansi pada kata-kata yang digunakan,” jelas Denning.
“Menskalakan LLM dengan jaringan saraf yang semakin besar tidak akan memungkinkan mereka memperoleh pengetahuan manusia yang kita sebut budaya. LLM tidak akan mencapai tujuan Tes Turing: menunjukkan bahwa pemikiran mesin tidak dapat dibedakan dari pemikiran manusia.”
Keamanan AI dan Batasan Pemahaman Manusia
Denning menyimpulkan bahwa manusia dan sistem AI pada akhirnya dapat mengembangkan berbagai bentuk pengetahuan tacit yang tidak dapat dipahami sepenuhnya oleh keduanya.
“Mesin tidak bisa membaca pengetahuan diam-diam kita dan kita tidak bisa membaca pengetahuan mereka,” tulisnya. “Kami adalah alien yang melampaui batas yang tidak bisa dilewati.”
Dia mengatakan kesenjangan ini menimbulkan kekhawatiran serius mengenai keamanan AI. Jika mesin tidak dapat menafsirkan konteks diam-diam di balik niat manusia, maka mustahil menyelaraskan sistem AI canggih dengan tujuan manusia secara andal.
“Melalui otomatisasi AI, jaringan agen mesin kemungkinan besar akan mengembangkan kecerdasan buatan mereka sendiri yang tidak mencapai tingkat kecerdasan umum manusia, namun masih cukup mampu menciptakan masalah serius bagi manusia. Ancaman ini lebih besar daripada pengambilalihan oleh mesin super cerdas,” jelasnya.
“Kecerdasan buatan memiliki kekhawatiran yang berbeda dengan kita dan sepertinya tidak mempedulikan kita. Cara berpikir dan menyelesaikan masalah tampak asing bagi kita. Kita belum tahu bagaimana hidup aman dengan mesin ini.
“Menghilangkan singularitas otomatisasi AI memerlukan banyak hal dari kita. Kita mulai dengan menerima bahwa budaya yang sudah dikenal mulai menghilang seiring munculnya mesin cerdas di masyarakat kita dan kita tidak tahu apa yang akan terjadi. Kita menolak untuk berpikir seperti mesin atau tunduk pada mesin. Mari kita rayakan perbedaan ini.”
