AI Generatif Menimbulkan Keresahan di Dunia Sains Seiring Ancaman Data Palsu yang Menggoyahkan Kredibilitas

Gambar yang dihasilkan oleh AI semakin menimbulkan kekhawatiran besar di kalangan peneliti dan penerbit, seiring dengan kemunculan alat AI generatif baru yang membuatnya sangat mudah untuk menciptakan data dan gambar ilmiah palsu, seperti yang dicatat dalam sebuah siaran pers oleh Nature.

Kemajuan ini mengancam kredibilitas literatur akademik, dengan ahli khawatir akan munculnya lonjakan studi palsu yang didorong oleh AI yang mungkin sulit untuk diidentifikasi.

Jana Christopher, seorang analis integritas gambar di FEBS Press di Jerman, menekankan bahwa evolusi cepat dari AI generatif membangkitkan kekhawatiran yang semakin meningkat tentang potensi penyalahgunaannya dalam ilmu pengetahuan.

“Orang-orang yang bekerja di bidang saya — integritas gambar dan etika publikasi — semakin khawatir tentang kemungkinan-kemungkinan yang ditawarkannya,” kata Jane seperti dilaporkan oleh Nature.

Dia mencatat bahwa, meskipun beberapa jurnal mungkin menerima teks yang dihasilkan oleh AI dalam beberapa pedoman tertentu, gambar dan data yang dihasilkan oleh AI dianggap telah melampaui batas yang bisa sangat mempengaruhi integritas penelitian, seperti yang dicatat oleh Nature.

Mendeteksi gambar yang diciptakan oleh AI ini telah menjadi tantangan utama, kata Nature. Tidak seperti manipulasi digital sebelumnya, gambar yang dihasilkan oleh AI seringkali tidak memiliki tanda-tanda pemalsuan yang biasa, membuatnya sulit untuk membuktikan adanya penipuan.
Spesialis forensik gambar, Elisabeth Bik dan peneliti lainnya menyarankan bahwa gambar yang dihasilkan AI, khususnya dalam bidang biologi molekuler dan sel, mungkin sudah ada dalam literatur yang diterbitkan, seperti dilaporkan oleh Nature.

Alat seperti ChatGPT kini kerap digunakan untuk menyusun makalah, yang dapat dikenali dari frase chatbot khas yang tidak diedit, tetapi gambar yang dihasilkan AI jauh lebih sulit ditemukan. Menanggapi tantangan ini, perusahaan teknologi dan institusi penelitian sedang mengembangkan alat deteksi, menurut Nature.
Alat berbasis AI seperti Imagetwin dan Proofig memimpin pergerakan dengan melatih algoritma mereka untuk mengidentifikasi konten AI generatif. Dror Kolodkin-Gal, salah satu pendiri Proofig, melaporkan bahwa alat mereka berhasil mendeteksi gambar AI 98% dari waktu, tetapi dia mencatat bahwa verifikasi manusia tetap sangat penting untuk memvalidasi hasil, demikian menurut Nature.

Di dunia penerbitan, jurnal seperti Science menggunakan Proofig untuk pemindaian awal terhadap pengajuan, dan raksasa penerbitan Springer Nature sedang mengembangkan alat khusus, Geppetto dan SnapShot, untuk mengidentifikasi ketidaksesuaian dalam teks dan gambar, seperti yang dilaporkan oleh Nature.

Organisasi lain, seperti International Association of Scientific, Technical and Medical Publishers, juga meluncurkan inisiatif untuk melawan pabrik kertas dan menjamin integritas penelitian, seperti yang dilaporkan oleh Nature.

Namun, para ahli memperingatkan bahwa penerbit harus bertindak dengan cepat. Kevin Patrick, seorang detektif gambar ilmiah, khawatir bahwa, jika tindakan lambat, konten yang dihasilkan oleh AI bisa menjadi masalah lain yang belum terselesaikan dalam literatur akademik, seperti yang dilaporkan oleh Nature.

Meskipun ada kekhawatiran tersebut, banyak yang tetap berharap bahwa teknologi masa depan akan berkembang untuk mendeteksi penipuan yang dihasilkan oleh AI hari ini, menawarkan solusi jangka panjang untuk melindungi integritas penelitian akademik.