Tangkapan layar yang tidak terpikirkan oleh siapa pun
Seorang wanita lanjut usia di Seoul mengambil foto laporan banknya. Dia bingung tentang suatu transaksi. Cucunya menyuruhnya “tanyakan saja pada ChatGPT.” Dia mengunduh gambar itu. Dalam beberapa detik, AI menjelaskan tuduhan tersebut. Masalah terpecahkan.
Kecuali itu tidak terselesaikan. Laporan bank beserta nomor rekening, riwayat transaksi, dan informasi pribadinya baru saja dikirim ke server di California. Dia tidak tahu. Banknya tidak tahu. Dan sampai terjadi kesalahan, tidak ada yang peduli.
Hal ini terjadi sekarang, ribuan kali sehari, di seluruh sistem keuangan Korea. Kami tidak memiliki infrastruktur untuk menghentikannya.
Kebocoran data yang tidak terlihat
Institusi keuangan bergegas mengadopsi alat AI. Chatbots menjawab pertanyaan pelanggan. Asisten AI membantu karyawan menulis laporan. Alat-alat ini berguna. Melarang mereka adalah hal yang mustahil.
Namun ada risiko tersembunyi: Saat pengguna berinteraksi dengan sistem AI, data mengalir keluar. Klien mengunduh dokumen. Seorang karyawan menempelkan email pelanggan ke asisten menulis. Seorang peneliti menangkap data kepemilikan. Setiap tindakan mengirimkan informasi ke server asing. Sebagian besar alat AI – ChatGPT, Google Bard, Microsoft Copilot – memproses data di pusat data di luar Korea. Bahkan dengan enkripsi, data keuangan Korea meninggalkan yurisdiksi Korea.
Pendekatan peraturan saat ini adalah memberi tahu masyarakat “jangan mengunggah informasi sensitif”. Itu bukan kebijakan. Itu sebuah harapan.
Bukan hanya orang lanjut usia, semua orang berisiko terkena penyakit ini
Akan mudah untuk mengabaikan hal ini sebagai masalah yang diperuntukkan bagi pengguna yang lebih tua atau kurang paham teknologi. Namun data menunjukkan cerita yang berbeda. Penelitian menunjukkan bahwa orang-orang dari segala usia dan tingkat pendidikan secara rutin berbagi informasi sensitif dengan alat AI tanpa memahami ke mana perginya data tersebut. Pegawai pemerintah menempelkan laporan rahasia ke asisten penulis AI. Staf lembaga keuangan mengunggah dokumen pelanggan ke alat ringkasan. Para pemimpin bisnis berbagi strategi kepemilikan dengan chatbot AI untuk menghemat waktu. Risikonya bukanlah ketidaktahuan, namun sifat manusia. Ketika suatu alat cepat dan berguna, orang menggunakannya tanpa memikirkan kedaulatan data.
Solusinya: pencegat server lokal
Jawabannya bukanlah dengan melarang AI. Jawabannya adalah dengan membuat pencegat server lokal, sebuah sistem yang ditempatkan antara pengguna dan alat AI, yang secara otomatis menganalisis data keluar dan menghapus informasi sensitif sebelum meninggalkan Korea.
Begini cara kerjanya: Pelanggan mengunggah laporan bank ke chatbot AI. Sebelum mencapai server perusahaan AI, ia melewati pencegat lokal. Sistem ini menggunakan pengenalan pola untuk mengidentifikasi nomor rekening, nomor identifikasi pribadi, dan data sensitif lainnya. Ia menulis informasi ini, lalu mengirimkan versi yang sudah dibersihkan ke AI. Pengguna mendapat bantuan. Data tetap terlindungi.
Ini bukan fiksi ilmiah. Teknologi itu ada. Korea memiliki kemampuan penelitian AI yang canggih dan telah menginvestasikan miliaran dolar dalam pengembangan AI. Yang belum ada adalah mandat peraturan yang mewajibkan lembaga keuangan untuk melaksanakan infrastruktur ini.
Preseden dan peluang global bagi Korea
GDPR Eropa memberlakukan aturan ketat pada transfer data ke luar UE. Prancis sedang mengembangkan Mistral AI, sebuah sistem kedaulatan yang dimaksudkan untuk menjaga data Eropa tetap berada di dalam batas negara Eropa. Korea mempunyai peluang untuk memimpin. Kami memiliki keahlian teknis, kapasitas regulasi, dan kebutuhan mendesak. Inisiatif MyData sudah menyalurkan data keuangan pribadi melalui saluran yang aman. Memperluas kerangka kerja ini ke interaksi AI adalah langkah logis berikutnya.
Mengapa regulator keuangan harus bertindak sekarang
Sektor keuangan sangat rentan karena tingginya nilai data. Detail rekening bank, riwayat transaksi, portofolio investasi: itulah jenis informasi yang dicari oleh para penjahat dan badan intelijen asing.
Beberapa orang berpendapat bahwa perusahaan AI memiliki keamanan yang kuat. Namun keamanan tidak sama dengan kedaulatan. Setelah data tersebut meninggalkan Korea, hukum Korea tidak dapat sepenuhnya melindunginya. Orang lain akan mengatakan itu terlalu mahal. Namun akibat dari tidak adanya tindakan lebih besar. Satu pelanggaran besar dapat menghancurkan kepercayaan masyarakat terhadap keuangan digital selama bertahun-tahun.
Membangun masa depan digital yang lebih aman
Sistem keuangan Korea berada di persimpangan jalan. Kami dapat terus berpura-pura bahwa pendidikan pengguna dan janji-janji perusahaan sudah cukup. Atau kita bisa membangun infrastruktur yang melindungi masyarakat secara default.
Pencegat server lokal tidak hanya akan melindungi individu yang rentan, tetapi juga siapa saja yang pernah memasukkan sesuatu ke dalam alat AI tanpa berpikir dua kali, dan hal ini hampir terjadi pada kita semua. Hal ini akan menjaga data keuangan sensitif tetap berada di bawah yurisdiksi Korea dan memberikan sinyal kepada dunia bahwa Korea menganggap serius kedaulatan data.
Teknologinya sudah siap. Kebutuhannya mendesak. Satu-satunya pertanyaan adalah apakah regulator akan bertindak sebelum atau sesudah krisis.
