Apple Diminta untuk Menghapus Fitur AI setelah Kontroversi Judul Berita Palsu

Sebuah lembaga pengawas jurnalisme besar telah mendesak Apple untuk menarik fitur AI generatifnya setelah alat tersebut salah mengatribusikan judul berita tentang kasus pembunuhan berprofil tinggi kepada BBC News.

Dilaporkan oleh BBC pada hari Kamis bahwa kontroversi muncul setelah fitur baru Apple, Apple Intelligence, menghasilkan judul berita yang tidak akurat. Ini menyarankan bahwa Luigi Mangione, tersangka dalam pembunuhan CEO asuransi kesehatan Brian Thompson, telah menembak dirinya sendiri. BBC tidak pernah menerbitkan artikel semacam itu.

Reporters Without Borders (RSF), sebuah organisasi internasional yang mendukung kebebasan pers, mengkritik Apple, dengan menyatakan bahwa insiden tersebut menunjukkan risiko yang ditimbulkan oleh alat AI yang belum matang terhadap kredibilitas media dan kepercayaan publik.

Vincent Berthier, kepala divisi teknologi dan jurnalisme RSF, mengutuk kesalahan tersebut, dengan menyebutnya sebagai “pukulan terhadap kredibilitas outlet” dan ancaman terhadap akses publik terhadap informasi yang dapat dipercaya. RSF menuntut agar Apple segera menghapus fitur tersebut.

“Undang-undang AI Eropa – meskipun merupakan peraturan paling maju di dunia dalam bidang ini – tidak mengklasifikasikan AI yang menghasilkan informasi sebagai sistem berisiko tinggi, meninggalkan kekosongan hukum yang kritis. Celah ini harus segera diisi,” kata Berthier.

BBC mengkonfirmasi bahwa mereka telah mengajukan pengaduan resmi kepada raksasa teknologi dan meminta penyelesaian, tetapi masih belum jelas apakah Apple telah merespon.

Ringkasan AI yang cacat ini tidak terbatas pada BBC News. Pada 21 November, fitur ini merangkum dengan tidak akurat sebuah artikel New York Times, secara salah menyarankan bahwa Perdana Menteri Israel Benjamin Netanyahu telah ditangkap, seperti yang dilaporkan oleh artikel BBC.

Notifikasi ini, kemudian ditonjolkan oleh jurnalis Ken Schwencke, sebenarnya merujuk pada surat perintah Pengadilan Pidana Internasional terhadap Netanyahu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence, bertujuan untuk mengurangi gangguan notifikasi dengan merangkum dan mengelompokkannya. Tersedia di iPhone yang menjalankan iOS 18.1 dan model yang lebih baru, serta beberapa iPad dan Mac tertentu, alat ini telah mendapat kritikan karena salah mewakili informasi dari media berita yang terkenal.

Juru bicara BBC menekankan bahwa meskipun beberapa notifikasi yang dikelompokkan secara akurat merangkum cerita tentang peristiwa global, disinformasi yang melibatkan Mangione menunjukkan potensi teknologi ini untuk merugikan baik media dan pemahaman publik.

RSF memperingatkan bahwa “Kecelakaan ini menunjukkan bahwa layanan AI generatif masih terlalu prematur untuk menghasilkan informasi yang dapat diandalkan untuk publik, dan tidak seharusnya diizinkan di pasaran untuk penggunaan semacam itu.”

Ars Technica meninjau ringkasan notifikasi Apple, mencatat beberapa masalah yang sering muncul. Pertama, meskipun beberapa ringkasan secara faktual benar, mereka terdengar seperti robot dan canggung, terutama dalam topik sensitif seperti hubungan atau kesehatan mental. Yang lainnya salah memahami sarkasme, bahasa gaul, atau ungkapan idiomatik, seringkali menginterpretasikannya terlalu harfiah.

Kehilangan konteks adalah masalah besar lainnya, terutama ketika ringkasan melewatkan pesan-pesan sebelumnya dalam suatu thread atau gagal mempertimbangkan konten multimedia. Dalam obrolan grup dengan berbagai topik, ringkasan bisa menjadi terlalu penuh, mencampuradukkan subjek dan mengarah ke ketidakakuratan.

Akhirnya, beberapa ringkasan benar-benar salah, seringkali karena upaya untuk merangkum terlalu banyak informasi dalam terlalu sedikit kata, yang menghasilkan laporan yang terdistorsi. Secara keseluruhan, masalah-masalah ini, yang mempengaruhi kegunaan dan akurasi fitur, sering terjadi dalam penggunaan sehari-hari.

Mangione, yang kini dituduh melakukan pembunuhan tingkat pertama, telah menjadi titik sentral dalam perdebatan tentang risiko yang terkait dengan AI dalam jurnalisme. Kepercayaan publik terhadap berita yang kredibel tetap dipertaruhkan saat Apple menghadapi tekanan yang semakin meningkat untuk menangani masalah ini.