James Uthmeier, Jaksa Agung Florida, menggugat perusahaan kecerdasan buatan (AI) OpenAI dan CEO-nya Sam Altman pada Senin (waktu setempat), menuduh perusahaan tersebut memprioritaskan keuntungan daripada keselamatan.
Berita NBCmengutip keluhan yang diajukan, menyatakan: “Munculnya OpenAI disebabkan oleh jaringan penipuan dan eksploitasi pengguna (termasuk warga Florida), yang memanfaatkan data dan keamanan mereka untuk meningkatkan nilai pasar OpenAI dengan biaya yang tidak dapat diterima. »
Perusahaan AI juga dituduh memicu kekerasan dan mempromosikan produk yang diketahui dapat merugikan pengguna. Perkembangan ini terjadi lebih dari sebulan setelah Uthmeier mengeluarkan panggilan pengadilan kepada perusahaan dan meminta informasi tentang cara perusahaan menangani ancaman yang merugikan diri mereka sendiri atau orang lain.
Florida menjadi negara bagian pertama yang menuntut OpenAI dan Altman atas desain dan keamanan produknya. Jaksa Agung mengatakan bahwa gugatan perdata, yang meminta sanksi dan perintah pengadilan daripada tuntutan pidana, “berusaha untuk meminta pertanggungjawaban Altman secara pribadi atas kerugian yang dia timbulkan pada warga Florida melalui tindakannya yang ceroboh dan disengaja sebagai pendiri dan CEO OpenAI, termasuk pengabaiannya yang tidak berperasaan terhadap risiko terhadap kehidupan manusia yang disebabkan oleh tindakan perusahaannya.” Gugatan ini terpisah dari penyelidikan kriminal terhadap OpenAI yang diluncurkan Uthmeier pada akhir April dan masih berlangsung.
Apa yang dituduhkan pada OpenAI?
Gugatan yang luas ini menuduh OpenAI melakukan empat dakwaan praktik perdagangan yang menipu dan tidak adil, dua dakwaan kelalaian, dua dakwaan melanggar undang-undang tanggung jawab produk, dan masing-masing satu dakwaan melakukan pernyataan keliru yang bersifat menipu dan menciptakan gangguan publik. Mereka menuduh bahwa sistem OpenAI menimbulkan “bahaya besar berupa kecanduan, penurunan kognitif, bunuh diri, kekerasan, dan bahaya terkait” bagi pengguna.
Perusahaan tersebut juga dituduh menggunakan chatbotnya dalam merencanakan penembakan massal di Florida State University, yang mengakibatkan kematian dua mahasiswa Universitas South Florida.
Komentar OpenAI tentang desainnya
Perusahaan AI selalu menyatakan bahwa mereka merancang sistemnya dengan “keamanan di setiap langkah” dan menambahkan bahwa mereka telah “menerapkan perlindungan untuk membantu orang, terutama remaja, ketika percakapan menjadi sensitif.”
Dia lebih lanjut menunjukkan bahwa pelatihan ChatGPT terus ditingkatkan untuk mengenali dan merespons tanda-tanda tekanan mental atau emosional, meredakan percakapan, dan kemudian membimbing orang untuk mendapatkan dukungan nyata.
Setelah perusahaan tersebut digugat oleh keluarga korban, juru bicara OpenAI Drew Pusateri mengatakan dalam sebuah pernyataan pada saat itu: “Penembakan massal tahun lalu di Florida State University adalah sebuah tragedi, namun ChatGPT tidak bertanggung jawab atas kejahatan yang mengerikan ini.
Dia menambahkan: “Dalam hal ini, ChatGPT memberikan jawaban faktual atas pertanyaan dengan informasi yang dapat ditemukan secara luas di sumber-sumber publik di Internet, dan tidak mendorong atau mempromosikan aktivitas ilegal atau berbahaya.”
Perusahaan AI menghadapi pengawasan
Gugatan yang diajukan oleh Jaksa Agung Florida menambah daftar gugatan hukum yang diajukan oleh entitas pemerintah dan individu terhadap OpenAI, banyak di antaranya juga menuduh bahwa produk AI perusahaan tersebut dapat menyebabkan kerugian yang signifikan bagi pengguna.
Perusahaan AI tersebut digugat oleh perwakilan setidaknya tujuh orang yang menuduh produk tersebut menyebabkan penggunanya melakukan bunuh diri atau mengembangkan delusi yang berbahaya.
Perusahaan yang dipimpin Altman juga telah digugat oleh keluarga beberapa korban penembakan massal pada bulan Februari di Tumbler Ridge, British Columbia. Keluarga korban mengatakan perusahaan seharusnya melaporkan penggunaan ChatGPT oleh tersangka ke penegak hukum beberapa bulan sebelumnya, setelah interaksi individu yang berhubungan dengan senjata dengan chatbot menimbulkan kekhawatiran di antara tim keamanan perusahaan.
Altman meminta maaf kepada komunitas Tumbler Ridge pada akhir April dan berjanji untuk terus “bekerja dengan semua tingkat pemerintahan untuk memastikan hal seperti ini tidak akan terjadi lagi.”
Gugatan yang diajukan pada hari Senin menandai peningkatan terbaru dalam kampanye Florida melawan perusahaan AI, dengan Uthmeier dan Gubernur Florida Ron DeSantis menjadi kritikus terkemuka terhadap beberapa perusahaan AI terbesar di Amerika Serikat.
