Garis Jelas Antara Video Nyata dan Video Buatan AI Bisa Menghilang Pada 2025

Konten yang dihasilkan AI ada di sini untuk bertahan. Ini semakin baik dan lebih baik dan kami telah melihat peningkatan signifikan dalam teknologi AI pada tahun 2024. Apakah kita akan mampu membedakan antara apa yang nyata dan apa yang tidak pada tahun 2025?

Baru-baru ini, saya menemukan diri saya bertanya, “Apakah itu wanita sungguhan?”—sambil mengerutkan sedikit—setelah melihat postingan di Instagram. “Tidak, itu pasti dihasilkan oleh AI,” saya menyimpulkan setelah sesaat. Lalu saya langsung bertanya-tanya: Akankah kita masih bisa membedakan perbedaannya dalam hitungan detik tahun depan? Semua tanda menunjukkan tidak, terutama di media sosial, sebagaimana perkembangan terbaru dalam teknologi AI menunjukkan.

Beberapa hari lalu, kepala Instagram, Adam Mosseri, membagikan pesan yang membahas masalah ini di Threads. “AI generatif jelas menghasilkan konten yang sulit dibedakan dari rekaman realitas, dan berkembang pesat,” tulisnya. Mosseri secara terbuka mengakui bahwa mereka mengalami kesulitan di Meta dalam menandai konten yang dibuat oleh AI dan mengontrol serta memantau jumlah media besar yang ditampilkan setiap detik di platform media sosial mereka.

Mosseri membebaskan Meta dari tanggung jawab dan memperingatkan pengguna bahwa terserah mereka untuk membedakan apakah suatu postingan itu nyata atau tidak. “Ini akan menjadi semakin penting bahwa penonton, atau pembaca, membawa pemikiran yang kritis saat mereka mengonsumsi konten yang mengklaim menjadi akun atau rekaman realitas,” tambahnya.

Hanya beberapa hari kemudian, OpenAI merilis Sora Turbo, generator video AI yang kuat, yang memungkinkan pengguna Pro dan Plus untuk menghasilkan video realistis dari petunjuk teks. Dalam hitungan menit, pengguna mulai membuat video realistis yang menarik dan mulai membagikannya di media sosial.

Tepat ketika semuanya tampak mencapai tingkat baru dalam produksi video, Google mengumumkan alat video AI terbarunya, Veo 2, dengan resolusi yang lebih tinggi dan klip yang lebih panjang daripada Sora. Tentu saja, hasil yang dibagikan oleh mereka yang memiliki akses ke teknologi canggih ini bahkan lebih mengesankan.

“Tidak ada yang bisa mengatakan ini adalah AI sekarang,” tulis satu pengguna.

It’s over.

Google Veo 2 baru saja mengalahkan pesaingnya dan menjadi raja baru di dunia media AI.

Tidak ada yang bisa mengatakan ini adalah AI sekarang.

10 contoh liar: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17 Desember, 2024

Sudah Mulai Terjadi

Selama tahun 2024, kita telah menyaksikan bagaimana konten yang dihasilkan oleh AI telah mempengaruhi populasi, pemilihan umum, dan pengguna media sosial.

Pada bulan Januari, penduduk New Hampshire mendapat panggilan “dari Joe Biden” yang mengatakan kepada mereka untuk tidak memilih dalam pemilihan pendahuluan. Konsultan politik Steve Kramer berada di balik penipuan tersebut dan dikenakan denda $6 juta atas panggilan robocall deepfake AI. Pemerintah telah memahami dampak yang dapat ditimbulkan oleh AI dan negara-negara seperti Singapura telah mengembangkan hukum dan strategi untuk membantu penduduk mengidentifikasi konten deepfake.

Di Venezuela, video yang dihasilkan oleh AI telah menyebar informasi yang salah—tetapi juga membantu para jurnalis memberikan informasi melalui avatar AI untuk menghindari sensor.

Orang-orang sedang kesulitan membedakan mana yang nyata dan mana yang tidak, dan ini bukan salah mereka: konten yang dihasilkan AI terus menjadi semakin baik dan canggih.

Konten berkualitas tinggi yang dihasilkan AI adalah bisnis yang berkembang dalam semua bentuknya; teks, audio, dan video. Banyak pencipta OnlyFans saat ini mengandalkan chatbots untuk berinteraksi dalam percakapan dengan penggemar mereka, pekerjaan yang sebelumnya diberikan kepada pekerja lepas di negara-negara berpenghasilan rendah. Model AI baru yang khusus dalam teknik merayu bahkan telah menghasilkan $1,000 dalam tips dari pengikut mereka.

Pada bulan April, startup yang didukung oleh Nvidia, Synthesia meluncurkan avatar AI yang bisa mengekspresikan emosi manusia dan berbicara dalam 130 bahasa. TikTok memperbolehkan perusahaan untuk membuat iklan yang dihasilkan oleh AI menggunakan konten dari Getty Images, dan kini Kreator YouTube dapat menggunakan fitur pengalihan suara otomatis AI baru untuk menerjemahkan konten mereka ke dalam 9 bahasa dan pembaruan di masa mendatang akan meniru suara asli.

Zoom sedang mengerjakan pembuatan avatar AI yang terlihat persis seperti pengguna untuk membantu mereka merekam pesan dan bahkan berpartisipasi dalam pertemuan. Alat ini akan diluncurkan tahun depan, tetapi orang sudah mulai menguji beberapa alat dan perusahaan sudah dapat menciptakan klon AI yang tampak realistis seperti foto.

Apakah Anda yakin telah berbicara dengan orang sungguhan dalam panggilan Zoom terakhir Anda?

Bagaimana Mengetahui Jika Itu Dibuat Oleh AI? Untuk Saat Ini

Kita hidup di era digital yang membingungkan ini. Filter dapat membuat siapa saja tampak seperti model dengan kulit tanpa cela, dan koreksi layaknya Photoshop hanya satu klik di Instagram atau Snapchat — berapa banyak orang yang ingin membagikan citra “alami” mereka, dengan segala kekurangannya, ketika bisa ditingkatkan dalam hitungan detik? Kita melihat semakin banyak iklan yang menampilkan gambar dengan kualitas foto realistis yang dihasilkan oleh kecerdasan buatan, perlahan-lahan meyakinkan mata kita tentang keakrabannya dan “normalitas.” Dan setiap hari, kejadian mengejutkan di seluruh dunia membuat kita bertanya: apa yang nyata, dan apa yang tidak lagi nyata?

Perusahaan AI besar telah bekerja pada watermark untuk mengidentifikasi konten buatan AI mereka dan mengenalinya dengan mudah. Google DeepMind meluncurkan sistem watermark open-source-nya pada bulan Oktober untuk menandai video, teks, dan audio AI, dan Meta juga memasukkan satu dalam alat video AI-nya.

Namun, efektivitasnya menjadi pertanyaan, dimulai dengan Meta yang hanya mengakui bahwa mereka tidak bisa menandai semua konten yang dihasilkan oleh AI. Pelaku jahat masih bisa menemukan cara untuk menghapus watermark dan lebih banyak hukum, kemitraan, dan perjanjian diperlukan antara perusahaan media sosial dan pemerintah untuk mencapai sistem yang lebih sukses.

Untuk saat ini, selain percaya pada naluri kita, kita dapat bertanya pada diri sendiri beberapa pertanyaan sebelum membagikan di media sosial atau mempercayai apa yang kita lihat:

• Seperti yang disarankan oleh Mosseri, pertimbangkan hal berikut: Siapa yang membagikan informasi ini? Apakah ini sumber yang dapat dipercaya?
• Apakah ekspresi atau gerakan orang tersebut terasa seperti robot? Meski avatar AI bisa terlihat cukup realistis, masih ada kemungkinan untuk mengenali kekakuan atau kurangnya emosi yang aneh—meski perlu dipertimbangkan bahwa beberapa perusahaan seperti Synthesia sudah mulai memperbaiki hal ini.
• Apakah konten tersebut dirancang untuk memprovokasi reaksi emosional yang kuat? Pelaku jahat tahu betapa mudahnya kita berbagi berita negatif dan berinteraksi dengan materi yang sarat emosi di media sosial, dan penelitian mengonfirmasi hal tersebut. Sebelum berbagi konten yang membuat darahmu mendidih untuk membuat orang lain marah seperti kamu, pikirkan apakah itu dirancang untuk memicu kontroversi atau apakah itu berita nyata atau peristiwa nyata.
• Dapatkah Anda memverifikasi konten tersebut dengan sumber lain? Mengecek ulang dengan sumber yang dapat dipercaya tidak ada salahnya.

Dan akhirnya, apakah Anda sudah bertanya pada diri sendiri—atau chatbot pilihan Anda—bagaimana cara meningkatkan pemikiran kritis Anda? Mengembangkan pola pikir kritis tentu harus menjadi salah satu resolusi Tahun Baru setiap orang.