Catatan redaksi
Ini adalah artikel kedua dari lima artikel yang menyoroti ketahanan di era kecerdasan buatan — ED.
Pada kolom sebelumnya, saya berpendapat bahwa kecerdasan buatan (AI) tidak akan menggantikan manusia melainkan mengekspos sistem yang telah kita bangun. Kesenjangan sebenarnya di era AI, menurut saya, bukanlah teknologi. Sebaliknya, hal ini akan menjadi keretakan dalam apa yang saya sebut sebagai “kapasitas pembelajaran kolektif.”
Ada pertanyaan yang masih belum terjawab. Berapa kapasitas ini? Mengapa hal ini sangat bervariasi antara organisasi dan masyarakat? Dan terakhir, mengapa AI membuat variasi ini menentukan.
Kapasitas belajar yang saya maksud di sini bukanlah kemampuan individu dalam menyerap informasi baru. Itu adalah hal kolektif.
Sebuah tim yang terdiri dari individu-individu brilian dapat duduk di sebuah organisasi tanpa mempelajari apa pun. Masyarakat dengan warga negara yang cerdas dapat menghasilkan institusi yang tidak mampu beradaptasi. Kecerdasan suatu bagian tidak menentukan kecerdasan keseluruhan.
Yang saya maksud dengan kapasitas belajar adalah kemampuan suatu organisasi, institusi atau masyarakat untuk menyesuaikan perilakunya terhadap perubahan lingkungan, lebih cepat dari yang diantisipasi. Setiap sistem adaptif – biologis, organisasi, nasional – mencapai hal ini melalui beberapa versi siklus yang sama. Ia mendeteksi apa yang terjadi, menafsirkan makna sinyal, memutuskan apa yang harus dilakukan dan mengamati apa yang terjadi sehingga siklus berikutnya membaik dari siklus sebelumnya. Kapasitas adalah siklus. Semakin cepat, bersih, dan jujur siklusnya, semakin efisien sistemnya. Inilah yang paling mendekati fungsi kelangsungan hidup organisasi dan masyarakat.
Siklus ini memiliki empat komponen.
Yang pertama adalah deteksi sinyal. Kemampuan untuk memperhatikan hal-hal penting dalam suatu lingkunganlah yang menghasilkan lebih banyak data daripada yang dapat diproses oleh manusia atau institusi mana pun. AI tidak menyelesaikan masalah ini. Ini memperumit banyak hal. Ketika mesin menghasilkan lebih banyak konten, lebih banyak prediksi, dan lebih banyak bukti sintetik, rasio signal-to-noise di lingkungan informasi menurun. Deteksi bukan lagi tentang memiliki lebih banyak sensor. Ini tentang memiliki sensor yang disesuaikan dengan apa yang pantas untuk dilihat.
Yang kedua adalah penafsiran, atau pengubahan apa yang telah terdeteksi menjadi makna bersama. Di sinilah sebagian besar organisasi runtuh secara diam-diam. AI dapat menghasilkan sepuluh interpretasi dari kumpulan data yang sama, masing-masing dapat dipertahankan. Tanpa kerangka kerja bersama, para pemangku kepentingan akan membaca hasil yang sama dari arah yang berbeda. Interpretasi adalah tindakan kolektif, bergantung pada kepercayaan, keahlian, dan budaya yang membedakan visi yang bermakna dengan hasil yang meyakinkan.
Pengambilan keputusan, atau mengubah interpretasi menjadi komitmen, adalah elemen ketiga. Meskipun AI telah membuat analisis hampir gratis, AI tidak membuat pengambilan keputusan menjadi lebih mudah. Keputusan selalu memerlukan modal politik, keselarasan organisasi, dan akuntabilitas. Hirarki tetap ada. Siklus persetujuan tetap ada. Kecepatan analisis semakin cepat; kecepatan pengambilan keputusan tidak berubah.
Yang keempat adalah umpan balik: mengamati apa yang terjadi dan memperbarui untuk siklus berikutnya. Ini adalah elemen yang paling jarang dibicarakan dan tidak diragukan lagi merupakan elemen yang paling rapuh. Dengan AI, umpan balik semakin tercemar oleh bukti halusinasi, oleh laporan yang dihasilkan mengenai kinerja sistem yang menghasilkan laporan itu sendiri, dan oleh pengukuran yang tampak seperti pembelajaran tetapi tidak menghasilkan tinjauan nyata. Tanpa umpan balik yang jujur, loop akan menjadi ruang gema.
Sejauh ini, siklus ini hanya menjadi pembeda. Beberapa organisasi selalu belajar lebih cepat dibandingkan yang lain. Beberapa perusahaan selalu beradaptasi dengan lebih gesit. Kesenjangan tersebut memang nyata namun muncul secara perlahan.
AI mengubahnya. AI melipatgandakan kapasitas pembelajaran yang sudah ada. Sebuah sistem yang mendeteksi secara akurat, menafsirkan dengan jujur, memutuskan dengan cepat, dan mengembalikan dengan cermat akan menggunakan AI untuk melakukan empat hal ini dengan lebih cepat, sehingga mempercepat komposisinya. Sistem yang lemah dalam fungsi-fungsi ini juga akan menggunakan AI untuk melakukan langkah-langkah lemahnya dengan lebih cepat: menghasilkan kebisingan lebih cepat, salah menafsirkan lebih cepat, membuat keputusan yang salah lebih cepat, dan memperkuat distorsi lebih cepat.
Dua organisasi dengan alat AI yang identik akan sangat berbeda. Bukan karena teknologi, tapi karena siklus yang dimasuki teknologi. Begitu pula dengan dua kementerian, dua universitas, dua kota.
Kesenjangan tidak akan menyempit. Ini akan berkembang.
Apa yang berlaku antar organisasi juga berlaku antar negara. Sebuah contoh baru-baru ini masih tersimpan dalam ingatan kita. Selama pandemi ini, semua negara dengan perekonomian besar memiliki akses terhadap data yang sebanding mengenai penularan, rawat inap, dan kinerja vaksin. Hasil yang diperoleh sangat berbeda – berdasarkan besarnya angka kematian, kelangsungan ekonomi, dan kepercayaan masyarakat. Variabelnya pun tidak diketahui oleh masing-masing negara. Ini tentang seberapa cepat setiap negara dapat menafsirkan apa yang diketahuinya, menyelaraskan pemangku kepentingan, mengambil keputusan dan merevisinya. Beberapa perusahaan telah melewati tahapan ini lebih cepat dibandingkan perusahaan lain. Beberapa tidak pernah menyelesaikannya.
Dinamika yang sama kini mulai terjadi, secara lebih diam-diam, dengan AI. Negara-negara dengan akses yang sama terhadap model perbatasan akan memberikan hasil yang sangat berbeda. Variabelnya tidak akan menjadi model. Ini akan menjadi siklusnya. Inilah yang saya sebut dengan ketidaksetaraan pembelajaran.
Hal ini merupakan kesenjangan yang semakin besar antara sistem yang dapat mengintegrasikan AI ke dalam lingkaran pembelajaran fungsional dan sistem yang tidak dapat mengintegrasikannya. Hal ini akan menentukan dekade berikutnya dengan lebih menentukan daripada tolok ukur teknis apa pun, embargo chip apa pun, atau peluncuran model apa pun.
Ketimpangan ini sudah terlihat pertama dan terutama pada tahap paling mendasar dari siklus ini: kemampuan membedakan sinyal dari noise.
Kita hidup di masa yang paling kaya akan informasi dalam sejarah umat manusia. Namun, di setiap tingkatan, kemampuan kolektif kita untuk menafsirkan apa yang kita ketahui semakin menurun.
Paradoks ini adalah langkah selanjutnya dalam seri ini.
Charles Chang adalah mahasiswa PhD Konvergensi AI dan konsultan ketahanan keamanan yang berbasis di Seoul, dengan pengalaman luas dalam kepemimpinan pemerintahan dan bisnis. Semua pandangan, pemikiran dan pendapat yang diungkapkan dalam artikel ini adalah sepenuhnya milik saya dan tidak mencerminkan pandangan, pendapat, kebijakan atau posisi pemberi kerja.
