Peneliti Mantan-OpenAI dan Pelapor Kecurangan Ditemukan Meninggal

Seorang mantan peneliti OpenAI yang menjadi whistleblower, Suchir Balaji, 26, ditemukan meninggal di sebuah apartemen di San Francisco, dikonfirmasi oleh otoritas, seperti yang pertama kali dilaporkan oleh The Mercury News.

Polisi menemukan jasad Balaji pada 26 November setelah menerima permintaan untuk melakukan pengecekan kesejahteraan. Kantor pemeriksa medis San Francisco menyatakan kematian tersebut sebagai bunuh diri, dan penyelidik tidak menemukan tanda-tanda adanya permainan kotor, demikian dilaporkan oleh BBC.

Dalam bulan-bulan menjelang kematiannya, Balaji telah secara terbuka mengkritik praktik-praktik OpenAI. Saat ini, perusahaan tersebut menghadapi berbagai gugatan hukum terkait metode pengumpulan datanya.

Baru-baru ini saya berpartisipasi dalam cerita NYT tentang penggunaan wajar dan AI generatif, dan mengapa saya skeptis “penggunaan wajar” akan menjadi pertahanan yang masuk akal untuk banyak produk AI generatif. Saya juga menulis postingan blog (https://t.co/xhiVyCk2Vk) tentang detail-detail yang sangat penting tentang penggunaan wajar dan mengapa saya…

— Suchir Balaji (@suchirbalaji) 23 Oktober 2024

Dalam sebuah wawancara baru-baru ini dengan New York Times, Bapak Balaji menyatakan bahwa dia melihat ancaman yang ditimbulkan oleh AI sebagai sesuatu yang mendesak dan signifikan. Dia berargumen bahwa ChatGPT dan chatbot serupa sedang merusak kelayakan komersial individu, bisnis, dan layanan internet yang awalnya menciptakan data digital yang digunakan untuk melatih sistem-sistem ini.

OpenAI, Microsoft, dan perusahaan lainnya berpendapat bahwa melatih sistem AI mereka pada data internet berada di bawah doktrin “penggunaan wajar”.

Doktrin ini mempertimbangkan empat faktor, dan perusahaan-perusahaan ini menegaskan bahwa mereka memenuhi kriteria tersebut, termasuk melakukan transformasi signifikan terhadap karya yang dilindungi hak cipta dan tidak bersaing secara langsung di pasar yang sama dengan karya tersebut.

Mr. Balaji tidak sependapat. Dia berpendapat bahwa sistem seperti GPT-4 membuat salinan lengkap dari data pelatihan. Meskipun perusahaan seperti OpenAI dapat memprogram sistem ini untuk menggandakan data atau menghasilkan output yang sepenuhnya baru, kenyataannya, katanya, berada di suatu tempat di antara kedua hal tersebut, seperti yang dilaporkan oleh The Times.

Bapak Balaji mempublikasikan sebuah esai di situs web pribadinya, menawarkan apa yang ia deskripsikan sebagai analisis matematis untuk mendukung klaim ini. “Jika kamu percaya apa yang saya percaya, kamu harus meninggalkan perusahaan,” katanya, seperti dilaporkan oleh The Times.

Menurut Bapak Balaji, teknologi ini melanggar hukum hak cipta karena seringkali secara langsung bersaing dengan karya-karya yang menjadi bahan latihannya. Model generatif, yang dirancang untuk meniru data online, dapat menggantikan hampir apa saja di internet, mulai dari artikel berita hingga forum online, dilaporkan The Times.

Kematian Balaji terjadi hanya satu hari setelah pengajuan pengadilan mengidentifikasinya sebagai seseorang yang berkas profesionalnya akan ditinjau oleh OpenAI sehubungan dengan gugatan yang diajukan oleh beberapa penulis melawan startup tersebut, seperti dilaporkan oleh Forbes.

Mengesampingkan kekhawatiran hukum, Bapak Balaji memperingatkan bahwa teknologi AI sedang merusak internet. Ketika alat-alat ini menggantikan layanan yang ada, mereka seringkali menghasilkan informasi palsu atau sepenuhnya dibuat-buat — sebuah fenomena yang disebut para peneliti sebagai “halusinasi.” Dia percaya bahwa pergeseran ini sedang merubah internet menjadi lebih buruk, seperti dilaporkan oleh The Times.

Bradley J. Hulbert, seorang pengacara hak kekayaan intelektual, mencatat bahwa hukum hak cipta saat ini dibuat jauh sebelum adanya AI dan belum ada pengadilan yang memutuskan apakah teknologi seperti ChatGPT melanggar hukum ini, seperti dilaporkan oleh The Times.

Dia menekankan perlunya tindakan legislatif. “Mengingat A.I berkembang begitu cepat,” katanya, “Ini adalah saatnya bagi Kongres untuk turun tangan.” Mr. Balaji setuju, dengan menyatakan, “Satu-satunya jalan keluar dari semua ini adalah regulasi,” dilaporkan oleh The Times.