Universitas Chicago Menawarkan Glaze dan Nightshade sebagai Perlindungan bagi Seniman dari Ancaman AI

Seniman-seniman sedang melawan balik terhadap model AI yang eksploitatif dengan Glaze dan Nightshade, dua alat yang dikembangkan oleh Ben Zhao dan timnya di SAND Lab, University of Chicago, seperti dilaporkan hari ini oleh MIT Technology Review.

Alat-alat ini bertujuan melindungi karya seniman dari penggunaan tanpa izin untuk melatih model AI, sebuah praktek yang banyak kreator anggap sebagai pencurian. Glaze, yang telah diunduh lebih dari 4 juta kali sejak peluncurannya pada Maret 2023, menyamarkan gambar dengan menambahkan perubahan halus yang mencegah AI mempelajari gaya seorang seniman, kata MIT.

Nightshade, sebuah “lawan” yang menyerang, semakin menghancurkan model AI dengan memperkenalkan perubahan yang tak terlihat yang dapat merusak pembelajaran AI jika digunakan dalam pelatihan, seperti yang dicatat oleh MIT.

Alat-alat tersebut terinspirasi oleh kekhawatiran seniman tentang meningkatnya AI generatif secara cepat, yang sering mengandalkan gambar online untuk menciptakan karya baru. MIT melaporkan bahwa ilustrator fantasi Karla Ortiz dan pencipta lainnya telah mengungkapkan kekhawatiran tentang kehilangan mata pencaharian mereka saat model AI meniru gaya khas mereka tanpa izin atau pembayaran.

Bagi seniman, memposting karya secara online sangat penting untuk visibilitas dan penghasilan, namun banyak yang mempertimbangkan untuk menghapus karya mereka untuk menghindari diambil untuk pelatihan AI, tindakan yang akan menghambat karir mereka, seperti yang dicatat oleh MIT.

Nightshade, diluncurkan setahun setelah Glaze, memberikan pertahanan yang lebih agresif, lapor MIT. Dengan menambahkan piksel “beracun” ke gambar, ini mengganggu pelatihan AI, menyebabkan model menghasilkan hasil yang terdistorsi jika gambar-gambar ini diambil.
Efek simbolis Nightshade telah beresonansi dengan para seniman, yang melihatnya sebagai keadilan puisi: jika karya mereka dicuri untuk pelatihan AI, hal itu dapat merusak sistem yang justru mengeksploitasinya.

MIT berpendapat bahwa alat-alat ini sempat menimbulkan keraguan, karena para seniman awalnya khawatir tentang privasi data. Untuk mengatasi hal ini, SAND Lab merilis versi Glaze yang beroperasi secara offline, memastikan tidak ada transfer data dan membangun kepercayaan dengan seniman yang waspada terhadap eksploitasi.

Lab tersebut juga baru-baru ini telah memperluas aksesnya dengan bermitra dengan Cara, sebuah platform sosial baru yang melarang konten yang dihasilkan oleh AI, seperti yang dicatat oleh MIT.

Zhao dan timnya bertujuan untuk mengubah dinamika kekuatan antara para pencipta individu dan perusahaan AI.

Dengan menawarkan alat yang melindungi kreativitas dari perusahaan besar, Zhao berharap untuk memberdayakan seniman agar tetap menguasai karya mereka dan mendefinisikan kembali standar etika seputar AI dan hak kekayaan intelektual, kata MIT.

Upaya ini sedang mendapatkan momentum, namun beberapa ahli memperingatkan bahwa alat tersebut mungkin tidak menawarkan perlindungan yang sempurna, karena hacker dan pengembang AI mencari cara untuk menghindari perlindungan tersebut, seperti yang dicatat oleh MIT.

Dengan Glaze dan Nightshade kini dapat diakses secara gratis, SAND Lab milik Zhao terus memimpin langkah dalam mempertahankan integritas seni melawan pengaruh yang semakin berkembang dari pembuatan konten yang didorong oleh AI.