Opini: Apakah ChatGPT Teman Anda? Mungkin Ini Saatnya Untuk Menetapkan Batasan

OpenAI dan MIT baru-baru ini merilis sebuah makalah mengenai dampak ChatGPT terhadap kesejahteraan orang-orang. Meskipun sebagian besar pengguna mengandalkan teknologi ini untuk tugas-tugas praktis, studi tersebut mengungkap bahwa sekelompok kecil telah mengembangkan hubungan emosional yang dalam dengan model AI yang dapat mempengaruhi kesejahteraan mereka

Sudah beberapa waktu sekarang, saya dengan penasaran mengamati hubungan yang beberapa orang kembangkan dengan kecerdasan buatan generatif. Beberapa bulan yang lalu, saya membaca di The New York Times cerita tentang seorang wanita berusia 28 tahun yang sudah menikah yang jatuh cinta dengan ChatGPT, dan bagaimana yang dimulai sebagai “eksperimen yang menyenangkan” berkembang menjadi hubungan yang rumit dan tak terduga.

Saya telah mengamati teman-teman saya, terutama mereka yang dulu menolak teknologi atau tidak tertarik padanya, yang tidak bisa membuat keputusan besar tanpa berkonsultasi dengan orakel AI mereka. Saya juga menemukan diri saya terkejut dengan respon empatik yang diberikan model AI terhadap pertanyaan yang sarat emosi atau psikologis.

Dan, tentu saja, saya tertawa melihat lelucon, meme, dan video TikTok dari postingan orang-orang di media sosial yang menunjukkan bagaimana mereka menjadi tergantung pada chatbot, beberapa bahkan menyebutnya sebagai “teman terbaik” atau “terapis” mereka—dan bahkan serius merekomendasikan orang lain untuk melakukan hal yang sama.

Namun, jika kita menyisihkan pengalaman menyenangkan dan lelucon sejenak, kita mungkin menyadari kita sedang menghadapi fenomena yang mengkhawatirkan secara global.

Bulan ini, untuk pertama kalinya dalam sejarah singkat kecerdasan buatan, OpenAI dan MIT Media Lab merilis sebuah studi yang menawarkan wawasan tentang dampak saat ini dari ChatGPT terhadap kesejahteraan emosional orang, serta saran mengenai risiko yang mungkin kita hadapi sebagai masyarakat: kesepian, ketergantungan emosional, dan interaksi sosial yang lebih sedikit dengan orang-orang nyata.

Sebuah Hubungan yang Berkembang

Pendekatan pertama terhadap teknologi kecerdasan buatan generatif baru sering dimulai dengan beberapa pertanyaan yang malu-malu, mungkin yang bersifat teknis tentang tugas praktis seperti merancang email atau permintaan untuk menjelaskan topik yang kompleks, atau hanya untuk brainstorming.

Namun, begitu pengguna mulai mencoba kemampuan chatbot tersebut, mereka menemukan bahwa ini bisa lebih luas dan lebih kompleks dari yang diharapkan.

Sementara beberapa produk AI seperti Friend — sebuah perangkat AI yang bisa dipakai — telah dirancang dan dipromosikan dengan sangat canggung sebagai teman hidup pengguna, ChatGPT telah dipasarkan sebagai alat produktivitas. Namun, sejumlah orang menggunakan chatbot untuk hal-hal pribadi dan emosional dan mengembangkan ikatan kuat dengannya.

Meski mereka hanya “kelompok kecil,” seperti yang diterangkan oleh OpenAI, mereka masih bisa mewakili jutaan orang di seluruh dunia, terlebih mengingat saat ini lebih dari 400 juta orang menggunakan ChatGPT setiap minggunya. Pengguna ini dengan cepat menyadari bahwa chatbot OpenAI meniru bahasa, nada, dan gaya mereka, dan bahkan dapat dilatih untuk berinteraksi dengan cara tertentu atau menggunakan nama panggilan—seperti wanita yang jatuh cinta padanya—dan bahkan “terdengar” lebih manusiawi.

“Gaya percakapan mereka, penggunaan bahasa orang pertama, dan kemampuan untuk mensimulasikan interaksi seperti manusia telah membuat pengguna kadang-kadang mempersonifikasikan dan mengantropomorfisasi sistem-sistem ini,” ungkap dokumen yang dibagikan oleh OpenAI.

Namun, kedekatan ini datang dengan risiko, seperti yang dicatat oleh para peneliti: “Meskipun chatbot yang secara emosional menarik dapat memberikan dukungan dan teman, ada risiko bahwa itu mungkin memanipulasi kebutuhan sosioafektif pengguna dengan cara yang merusak kesejahteraan jangka panjang.”

Metodologi Studi

Penyelidikan yang baru-baru ini dirilis ini berfokus pada kesejahteraan manusia setelah penggunaan ChatGPT secara konsisten. Untuk memahami dampak emosional dan sosial dari chatbot, para peneliti melakukan dua studi utama dengan menerapkan strategi yang berbeda.

OpenAI memproses dan menganalisis lebih dari 40 juta interaksi dengan menghormati privasi pengguna dengan menggunakan classifier, dan melakukan survei pada lebih dari 4.000 di antaranya tentang bagaimana perasaan mereka terhadap interaksi tersebut.

MIT Media Lab melakukan uji coba dengan hampir 1.000 orang selama sebulan, berfokus pada konsekuensi psikososial dari penggunaan ChatGPT selama setidaknya 5 menit sehari. Mereka juga mengirimkan dan memproses kuesioner pada akhir eksperimen.

Tidak mengherankan, penemuan tersebut menunjukkan bahwa pengguna yang menghabiskan lebih banyak waktu dengan teknologi merasakan lebih banyak kesepian dan menunjukkan lebih banyak tanda-tanda isolasi.

Konsekuensi Kompleks dan Berbagai Implikasi

Studi dari MIT Media Lab dan OpenAI juga menawarkan beberapa refleksi tentang seberapa kompleks dan uniknya hubungan manusia dengan chatbot.

Dalam penelitian ini, penulis memberikan kita gambaran tentang berbagai pengalaman dan cara setiap pengguna berinteraksi dengan ChatGPT—dan bagaimana hasilnya bisa berbeda-beda tergantung pada berbagai faktor, seperti penggunaan fitur suara canggih, mode teks saja, jenis suara, frekuensi penggunaan, topik percakapan, bahasa yang digunakan, dan jumlah waktu yang dihabiskan di aplikasi.

“Kami menyarankan untuk tidak menggeneralisasi hasil karena hal itu dapat mengaburkan temuan yang menunjukkan interaksi kompleks dan tidak seragam antara orang dan sistem AI,” peringatan OpenAI dalam pengumuman resminya.

Semua pendekatan berbeda yang dipilih oleh setiap pengguna berubah menjadi hasil yang berbeda, dan menyeret kita ke dalam area abu-abu yang sulit untuk dijelajahi.

Ini adalah Efek Kupu-Kupu AI!

Muncul Lebih Banyak Pertanyaan

Makalah yang dibagikan oleh OpenAI juga mencatat bahwa pengguna berat mengatakan mereka akan “marah” jika suara atau kepribadian chatbot mereka berubah.

Ini mengingatkan saya pada sebuah video yang baru-baru ini saya lihat di media sosial tentang seorang pria yang mengatakan dia lebih menyukai suara wanita dan bahwa dia berbicara dengan AI generatif setiap hari. Apakah ChatGPT juga bisa membantu pria untuk lebih terbuka secara emosional? Apa yang akan terjadi jika suatu hari ChatGPT berbicara dengannya dengan suara pria? Apakah dia akan merasa dikhianati? Apakah dia akan berhenti menggunakan ChatGPT? Apakah dia sedang mengembangkan ikatan romantis—atau hanya sebuah ruang kepercayaan? Tentu saja, sulit untuk tidak langsung mengaitkan skenario ini dengan film Her karya Spike Jonze.

Setiap akun ChatGPT, lengkap dengan percakapan historisnya—setiap hari menjadi lebih intim dan pribadi daripada profil WhatsApp atau DM media sosial—mewakili hubungan unik dengan tak terhitung hasil dan konsekuensinya.

Hasil yang Diharapkan

Semua studi menganalisis aspek yang berbeda, namun sampai pada kesimpulan serupa, yang dijelaskan secara singkat di MIT Technology Review: “Partisipan yang mempercayai dan ‘menyatu’ dengan ChatGPT lebih cenderung merasa kesepian, dan lebih mengandalkannya.”

Meskipun investigasi tidak berfokus pada solusi atau penjelasan lebih mendalam mengenai mengapa hal ini terjadi atau bagaimana perkembangannya, tampaknya lebih banyak pengguna yang akan bergabung dengan OpenAI dan platform AI lainnya, terutama sekarang setelah tool pembuat gambar AI menjadi viral.

Meskipun kesimpulan dari penelitian MIT dan OpenAI tidak terlalu mengejutkan, studi ini memberikan latar belakang ilmiah dengan bukti, pengukuran, sampel, dan metrik ‘nyata’ lainnya yang dapat membuka jalan untuk penelitian lebih lanjut dan membantu mengatasi implikasi dari penggunaan kecerdasan buatan hari ini.

Kami juga menerima peringatan resmi—dari para pengembangnya sendiri—tentang ikatan yang kita bangun dengan ChatGPT dan undangan untuk menetapkan batasan dan merenungkan tentang interaksi serta hubungan—atau situasi?—kita saat ini dengan chatbot.