Google DeepMind Meluncurkan Alat Watermark Open-Source untuk Membantu Mendeteksi Teks yang Dihasilkan oleh AI

Google DeepMind meluncurkan alat watermark sumber terbuka yang disebut SynthID-Text pada hari Rabu ini untuk membantu mendeteksi teks yang dihasilkan oleh AI. Alat ini tersedia secara gratis untuk bisnis dan pengembang dan bekerja dengan menyematkan watermark yang tidak terlihat—tidak terdeteksi oleh mata manusia—ke dalam teks selama pembuatan, dengan mengubah probabilitas kata-kata.

“Di sini kami mendeskripsikan SynthID-Text, skema watermarking teks yang siap produksi yang mempertahankan kualitas teks dan memungkinkan akurasi deteksi yang tinggi, dengan overhead latensi minimal,” demikian isi abstrak dari penelitian yang dipublikasikan di Nature. “Untuk memungkinkan watermarking dalam skala besar, kami mengembangkan algoritma yang mengintegrasikan watermarking dengan sampling spekulatif, teknik efisiensi yang sering digunakan dalam sistem produksi.”

Menurut MIT Technology Review, laboratorium penelitian AI dari raksasa teknologi ini telah mengembangkan teknologi SynthID untuk menciptakan berbagai alat watermark AI yang kini dapat mengenali teks, musik, video, dan gambar yang dihasilkan oleh AI. Google DeepMind membagikan video yang menjelaskan bagaimana teknologi ini bekerja di berbagai jenis media.

Berikut adalah cara SynthID memberikan watermark pada konten yang dihasilkan oleh AI di berbagai modalitas. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 Oktober 2024

SynthID tersedia melalui Google Responsible Generative AI Toolkit milik perusahaan, dan para peneliti bekerja sama dengan Hugging Face—sebuah platform kolaboratif untuk pengembang yang menjadi tuan rumah untuk proyek-proyek open-source lainnya seperti tutorial LeRobot untuk membangun robot bertenaga AI di rumah—untuk membagikannya di situs mereka juga.

“Sekarang, pengembang AI [generative] lainnya akan dapat menggunakan teknologi ini untuk membantu mereka mendeteksi apakah output teks berasal dari [large language models] mereka sendiri, membuat lebih mudah bagi lebih banyak pengembang untuk membangun AI dengan bertanggung jawab,” kata Pushmeet Kohli, wakil presiden penelitian di Google DeepMind, kepada MIT Technology Review.

SynthID telah diuji coba pada produk Gemini milik Google, dan jutaan pengguna tidak bisa membedakan antara konten yang memiliki watermark dan yang tidak. Namun, para peneliti mengakui bahwa alat ini memiliki keterbatasan ketika teks telah diedit atau diterjemahkan, tetapi mereka tetap optimis dan percaya bahwa alat ini dapat membantu memerangi informasi palsu dan meningkatkan keamanan AI.

Beberapa perusahaan teknologi telah mengumumkan strategi pelabelan AI selama beberapa bulan terakhir. Meta mengumumkan pada bulan Februari sistem untuk mengidentifikasi konten AI di Instagram, Facebook, dan Threads, Google mengharuskan pengguna untuk melabeli konten AI pada bulan Maret, dan Tiktok menambahkan label ke konten yang dihasilkan AI pada bulan Mei.