Opini: Model AI Adalah “Makhluk” Misterius, Bahkan Penciptanya Pun Tidak Sepenuhnya Memahami Mereka

Studi terbaru Anthropic tentang bagaimana model Haiku Claude 3.5 mereka bekerja menjanjikan wahyu yang revolusioner dan percikan wawasan untuk memahami bagaimana teknologi AI canggih beroperasi. Tapi apa yang mereka maksud ketika mereka mengatakan bahwa LLM adalah “organisme hidup” yang “berpikir”?

Beberapa hari yang lalu, Anthropic merilis dua makalah dengan penelitian revolusioner tentang bagaimana Large Language Models (LLM) bekerja. Sementara perkembangan teknisnya menarik dan relevan, yang paling menarik perhatian saya adalah kosakata yang digunakan oleh para ahli AI.

Dalam penelitian On the Biology of a Large Language Model, para peneliti membandingkan diri mereka dengan biolog yang mempelajari “organisme hidup” kompleks yang telah berevolusi selama miliaran tahun.

“Begitu pula, meskipun model bahasa dihasilkan oleh algoritma pelatihan sederhana yang dirancang manusia, mekanisme yang lahir dari algoritma ini tampaknya cukup kompleks,” tulis para ilmuwan.

Dalam beberapa tahun terakhir, model AI telah berkembang secara signifikan. Dan kami telah menyaksikan evolusi pesatnya dalam beberapa bulan terakhir. Kami telah melihat ChatGPT berubah dari model teks saja menjadi teman bicara, hingga sekarang menjadi agen multidimensi yang juga dapat menghasilkan gambar bergaya Studio Ghibli yang memukau.

Namun, bagaimana jika model AI paling mutakhir saat ini mencapai level fiksi ilmiah dalam mengembangkan penalaran yang begitu canggih sehingga bahkan penciptanya sendiri tidak dapat memahami proses dan sistem mereka? Ada banyak misteri seputar teknologi AI yang mungkin relevan untuk dikunjungi kembali—atau diselami—pada 2025.

Paradoks Kotak Hitam yang Menyeramkan dari Model AI

Ada banyak diskusi tentang adopsi AI dan literasi AI, serta bagaimana mereka yang memahami bagaimana model AI generatif bekerja kurang cenderung menganggap chatbot sebagai “teman” mereka atau aplikasi “ajaib”. Namun, ada debat lain—di antara para ahli dan orang-orang yang lebih akrab dengan teknologi—tentang apakah harus membandingkan atau menganggap LLMs sebagai ciptaan independen. Mengenai hal yang terakhir, ada bahan khusus, misteri yang dikenal sebagai “paradoks kotak hitam AI,” yang berperan penting dalam diskusi tersebut.

Sistem pembelajaran mendalam dilatih untuk mengenali elemen dan tren dengan cara yang mirip dengan manusia. Sama seperti kita mengajari anak-anak untuk mengenali pola dan menetapkan kata-kata tertentu untuk berbagai objek, LLMs telah dilatih untuk membuat koneksi unik dan membangun jaringan yang semakin kompleks seiring mereka “bertumbuh.”

Samir Rawashdeh, Profesor Asosiasi Teknik Elektro dan Komputer, mengkhususkan diri dalam kecerdasan buatan dan menjelaskan bahwa sama seperti saat kita mempelajari kecerdasan manusia, hampir tidak mungkin untuk benar-benar melihat bagaimana sistem pembelajaran mendalam membuat keputusan dan mencapai kesimpulan. Ini adalah apa yang para ahli sebut sebagai “masalah kotak hitam”.

Model AI Membuat Tantangan untuk Pemahaman Manusia

Studi terbaru dari Anthropic telah membuka cakrawala mengenai situasi kotak hitam AI dengan menjelaskan bagaimana modelnya “berpikir” dalam beberapa skenario yang sebelumnya kabur atau bahkan benar-benar salah. Meskipun studi ini didasarkan pada model Claude 3.5 Haiku, ini memungkinkan para ahli untuk mengembangkan alat dan menganalisis karakteristik serupa pada model AI lainnya.

“Memahami sifat dari kecerdasan ini adalah tantangan ilmiah yang mendalam, yang memiliki potensi untuk membentuk kembali pemahaman kita tentang apa artinya ‘berpikir,’” demikian bunyi makalah yang dibagikan oleh peneliti Anthropic.

Namun, istilah “berpikir,” yang diberikan kepada teknologi AI, mengganggu beberapa ahli di industri ini dan menjadi bagian dari kritik terhadap penelitian tersebut. Seorang pengguna Reddit menjelaskan mengapa hal itu mengganggu sekelompok orang: “Ada banyak antropomorfisasi sepanjang artikel yang menyamarkan pekerjaan. Misalnya, artikel ini terus menggunakan kata ‘berpikir’ ketika seharusnya mengatakan ‘menghitung’. Kita sedang membahas tentang perangkat lunak komputer, bukan otak biologis.”

Meskipun istilah “humanis” membantu orang non-teknis memahami model AI dengan lebih baik dan memicu debat di komunitas, kenyataannya adalah, apakah kita mengatakan “menghitung” atau “berpikir,” tantangan yang sama tetap ada: kita tidak memiliki pemahaman penuh atau transparansi total tentang bagaimana LLM beroperasi.

Apa yang Dapat Diharapkan dari Model AI Lanjutan di Masa Mendatang

Bisakah Anda membayangkan mengabaikan keberadaan teknologi AI canggih seperti ChatGPT, DeepSeek, Perplexity, atau Claude—sekarang atau di masa mendatang? Semua tanda menunjukkan bahwa tidak ada jalan kembali. AI generatif dan penalaran telah merubah kehidupan sehari-hari kita, dan mereka hanya akan terus berkembang.

Hampir setiap hari di WizCase kami melaporkan perkembangan baru dalam industri ini—model AI baru, alat AI baru, perusahaan AI baru—yang memiliki potensi untuk membuat dampak besar dalam masyarakat kita. Ide untuk beristirahat sejenak guna mendapatkan pemahaman yang lebih baik tentang model-model canggih ini dan bagaimana mereka beroperasi—atau bahkan melambat sedikit—terasa mustahil, mengingat kecepatan lomba AI dan keterlibatan pemerintah dan perusahaan paling kuat di dunia.

“Model AI semakin mempengaruhi cara kita hidup dan bekerja, kita harus memahami mereka dengan cukup baik untuk memastikan dampak mereka positif,” kata makalah Anthropic. Meskipun kedengarannya sedikit tidak realistis, para peneliti tetap optimis: “Kami percaya bahwa hasil kami di sini, dan lintasan kemajuan yang dibangun di atasnya, adalah bukti menarik bahwa kita bisa bangkit untuk memenuhi tantangan ini.”

Tetapi seberapa cepat sebenarnya penemuan-penemuan ini bisa bergerak? Makalah ini juga mencatat bahwa hasil-hasil tersebut hanya mencakup beberapa area dan kasus spesifik, dan bahwa tidak mungkin untuk membangun kesimpulan yang lebih umum. Jadi, kemungkinan besar tidak cukup cepat.

Sementara regulator memperkenalkan langkah-langkah seperti EU AI Act, untuk menuntut lebih banyak transparansi, menarik tuduhan dan keluhan dari perusahaan teknologi besar karena diduga memperlambat kemajuan, model AI yang kuat terus berkembang.

Sebagai masyarakat, kita harus berusaha menemukan keseimbangan antara memperdalam pemahaman kita tentang bagaimana teknologi-teknologi ini beroperasi dan mengadopsinya dengan cara yang memberikan manfaat dan kemajuan yang berarti bagi komunitas kita. Apakah ini mungkin? Ide hanya berdoa atau berharap bahwa “makhluk” ini tetap “etis” dan “baik” tidak terlihat begitu jauh-fetched sekarang ini.