OpenAI Menghadapi Pengaduan Privasi Setelah ChatGPT Salah Menuduh Pengguna Melakukan Pembunuhan

Organisasi non-profit Eropa, noyb, mendukung pengguna ChatGPT asal Norwegia dalam mengajukan pengaduan resmi terhadap perusahaan Amerika setelah chatbot tersebut secara salah menuduhnya membunuh dua anaknya.

Organisasi nirlaba Eropa noyb mendukung seorang pengguna ChatGPT asal Norwegia dalam mengajukan pengaduan resmi terhadap perusahaan Amerika tersebut setelah chatbot secara salah menuduhnya membunuh kedua anaknya.

noyb, yang juga dikenal sebagai Pusat Eropa untuk Hak Digital, membagikan sebuah dokumen resmi yang menjelaskan kasus tersebut, memperingatkan tentang risiko halusinasi chatbot dalam kehidupan pribadi orang, dan menekankan pentingnya menghormati Regulasi Perlindungan Data Umum (GDPR).

Menurut informasi dan keluhan yang dibagikan oleh noyb, warga Norwegia Arve Hjalmar Holmen bertanya kepada ChatGPT siapa dirinya dan terkejut membaca cerita pembunuhan yang mengerikan dan palsu, yang menuduh bahwa dia telah membunuh kedua anaknya, mencoba membunuh anak ketiga, dan dihukum 21 tahun penjara.

“Dia memiliki keluarga dengan tiga orang anak laki-laki. Dia adalah apa yang orang sebut sebagai ‘orang biasa’, yang berarti bahwa dia tidak terkenal atau dikenali oleh publik,” demikian isi keluhan Noyb. “Dia tidak pernah dituduh maupun dihukum karena kejahatan apapun dan adalah warga negara yang berbudi pekerti baik.”

noyb menjelaskan bahwa, selain informasi palsu yang berbahaya, aspek lain yang sangat mengkhawatirkan dari respons tersebut adalah bahwa ChatGPT menggunakan informasi pribadi nyata untuk membentuk ceritanya. Chatbot tersebut mencakup kota asalnya yang sebenarnya, jumlah anak yang dia miliki, jenis kelamin mereka, dan bahkan perbedaan usia yang mirip.

“Beberapa orang berpikir bahwa ‘tidak ada asap tanpa api’. Fakta bahwa seseorang bisa membaca output ini dan percaya bahwa itu benar, adalah yang paling menakutkan bagi saya,” kata Arve Hjalmar Holmen.

noyb menyoroti bahwa ini bukanlah kasus yang terisolasi, dan mereka sebelumnya telah mengajukan pengaduan terhadap OpenAI tentang informasi yang salah—tanggal lahir—dari seorang tokoh publik yang belum diperbaiki. OpenAI menambahkan sebuah disclaimer setelah banyak mengeluh tentang informasi yang tidak akurat tahun lalu. Namun banyak organisasi, termasuk noyb, percaya itu tidak cukup.

“GDPR sangat jelas. Data pribadi harus akurat. Dan jika tidak, pengguna memiliki hak untuk mengubahnya agar mencerminkan kebenaran,” kata Joakim Söderberg, pengacara perlindungan data di noyb. “Menunjukkan kepada pengguna ChatGPT sebuah disclaimer kecil bahwa chatbot bisa membuat kesalahan jelas tidak cukup.”

🚨 Hari ini, kami mengajukan pengaduan kedua kami terhadap OpenAI mengenai masalah halusinasi ChatGPT

👉 Ketika seorang pengguna Norwegia bertanya kepada ChatGPT apakah itu memiliki informasi tentang dirinya, chatbot tersebut menciptakan cerita bahwa dia telah membunuh anak-anaknya.

Temukan lebih lanjut: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 20 Maret 2025

noyb juga mengajukan keluhan terhadap X tahun lalu karena menggunakan data pribadi lebih dari 60 juta orang Eropa untuk melatih chatbot AI-nya, Grok.