Masalah terus menumpuk pada startup kecerdasan buatan (AI) OpenAI setelah koalisi jaksa agung negara bagian AS membuka penyelidikan luas terhadap berbagai aktivitasnya pada hari Jumat (waktu setempat).
Pembuat ChatGPT menerima panggilan pengadilan pada hari Jumat, meminta dokumen terkait dengan berbagai aktivitasnya dan dampaknya terhadap pengguna, termasuk periklanan, keterlibatan dan retensi pengguna, serta pemrosesan data konsumen dan kesehatan. Reuters dilaporkan, mengutip sumber.
Panggilan pengadilan yang dilayangkan Jaksa Agung New York juga mencari informasi tentang aktivitas perusahaan terkait anak di bawah umur dan lansia, model pembelajaran mendalam, dan kebijakan internal.
Investigasi yang dilakukan oleh Jaksa Agung New York menandai tantangan hukum terbaru terhadap OpenAI terkait IPO, yang juga digugat oleh Florida karena diduga salah mengartikan keamanan chatbot AI-nya.
Seorang juru bicara OpenAI mengatakan: “AI adalah teknologi baru dan kuat, dan kami bekerja setiap hari untuk memberikan manfaatnya kepada masyarakat secara bertanggung jawab dan aman. Kami menanggapi dengan serius kekhawatiran yang diajukan oleh jaksa agung negara bagian dan bermaksud untuk terlibat secara konstruktif dengan kantor mereka.
Mengapa Florida menggugat OpenAI?
Awal bulan ini, Jaksa Agung Florida James Uthmeier menggugat OpenAI dan CEO-nya Sam Altman, menuduh perusahaan tersebut memprioritaskan keuntungan daripada keselamatan.
Gugatan di Florida, yang pertama kali diajukan oleh negara bagian AS, mengklaim bahwa platform tersebut merugikan anak-anak dengan memberikan informasi kepada pelaku penembakan di sekolah, menawarkan mereka nasihat untuk menyakiti diri sendiri, dan membuat pengguna muda menjadi ketagihan.
Dalam pengaduan yang diajukan, Uthmeier mengatakan: “Munculnya OpenAI disebabkan oleh jaringan penipuan dan eksploitasi pengguna (termasuk warga Florida), yang memanfaatkan data dan keamanan mereka untuk meningkatkan nilai pasar OpenAI dengan biaya yang tidak dapat diterima. »
Selain itu, perusahaan tersebut juga dituduh memicu kekerasan dan mempromosikan produk yang mereka ketahui dapat berdampak negatif pada pengguna. Gugatan ini muncul lebih dari sebulan setelah jaksa agung Florida memanggil perusahaan tersebut, mencari informasi tentang cara perusahaan menangani ancaman kerugian yang mungkin ditimbulkan oleh pengguna terhadap diri mereka sendiri atau orang lain.
Gugatan tersebut menuduh OpenAI melakukan empat dakwaan praktik perdagangan yang menipu dan tidak adil, dua dakwaan kelalaian, dua dakwaan melanggar undang-undang tanggung jawab produk, dan masing-masing satu dakwaan memberikan pernyataan keliru yang bersifat menipu dan menimbulkan gangguan publik. Mereka menuduh bahwa sistem OpenAI menimbulkan “bahaya besar berupa kecanduan, penurunan kognitif, bunuh diri, kekerasan, dan bahaya terkait” bagi pengguna.
OpenAI juga didakwa setelah produk chatbotnya diduga digunakan dalam merencanakan penembakan massal di Florida State University yang mengakibatkan kematian dua mahasiswa.
Wanita Kanada menggugat OpenAI dan Altman
Dalam gugatan hukum lainnya, seorang wanita Kanada juga menggugat OpenAI dan Altman di pengadilan AS pada hari Kamis, dengan tuduhan bahwa ChatGPT mendorong putrinya untuk bunuh diri. Wanita tersebut, yang diidentifikasi sebagai Kristie Carrier, mengajukan gugatan di pengadilan negara bagian di San Francisco. Carrier mengatakan putrinya, Alice, memberi tahu ChatGPT tentang pemikirannya untuk bunuh diri lebih dari belasan kali sebelum kematiannya; Namun, sistem keamanan OpenAI tidak pernah menandai atau menghentikan percakapan untuk ditinjau oleh manusia. Wali dilaporkan.
Tantangan hukum bagi OpenAI semakin bertambah
Perusahaan kecerdasan buatan tersebut telah digugat oleh perwakilan tujuh orang yang menuduhnya menciptakan produk yang mendorong pengguna untuk melakukan bunuh diri atau mengembangkan delusi yang berbahaya.
Perusahaan yang dipimpin Altman juga menghadapi tuntutan hukum dari kerabat beberapa orang yang tewas dalam penembakan massal di Tumbler Ridge, British Columbia, pada bulan Februari. Keluarga tersebut menuduh perusahaan tersebut gagal memberi tahu pihak berwenang meskipun telah mengidentifikasi interaksi terkait senjata yang meresahkan antara tersangka dan ChatGPT beberapa bulan sebelum serangan tersebut, yang diduga menimbulkan tanda bahaya dalam sistem pemantauan keamanannya.
Altman meminta maaf kepada komunitas Tumbler Ridge pada akhir April dan berjanji untuk terus “bekerja dengan semua tingkat pemerintahan untuk memastikan hal seperti ini tidak akan terjadi lagi.”
Ketika pengawasan terhadap ChatGPT dan OpenAI semakin intensif, masih harus dilihat apakah perusahaan AI tersebut akan go public sesuai rencana CEO-nya.
(dengan kontribusi dari Reuters)
Poin-poin penting
- OpenAI saat ini sedang diselidiki terkait potensi dampak buruk ChatGPT terhadap pengguna.
- Berbagai tuntutan hukum menuduh bahwa kelalaian OpenAI berkontribusi terhadap kerugian bagi pengguna, khususnya di kalangan populasi rentan.
- Tantangan hukum dapat menghambat rencana IPO OpenAI dan memengaruhi persepsi masyarakat terhadap keamanan AI.
