Microsoft Melatih Model AI Baru yang Cukup Besar untuk Bersaing dengan LLM Utama

Microsoft sedang mengembangkan model bahasa besar (LLM) baru dengan nama kode MAI-1, yang memiliki potensi untuk bersaing dengan LLM AI yang dikembangkan oleh Google dan OpenAI. Ini pertama kalinya Microsoft mengembangkan LLM sebesar ini sejak menginvestasikan miliaran dolar ke OpenAI untuk hak menggunakan teknologi mereka dalam rangkaian perangkat lunak produktivitasnya.

Pengembangan MAI-1 diawasi oleh Google DeepMind dan salah satu pendiri Inflection Mustafa Suleyman, menurut laporan dari The Information. Pada Maret 2024, Microsoft mengakuisisi sejumlah staf Inflection dalam kesepakatan senilai 650 juta dolar.

Menurut laporan yang dirilis pada 6 Mei, MAI-1 akan memiliki sekitar 500 miliar parameter, menempatkannya di antara parameter satu triliun yang dilaporkan oleh GPT-4 OpenAI dan 70 miliar parameter model Meta Llama 3 AI. Model ini juga diharapkan “jauh lebih besar” dan lebih mahal daripada AI open-source kecil sebelumnya dari Microsoft (Phi-3 dan WizardLM-2) karena akan membutuhkan lebih banyak daya komputasi dan data pelatihan.

Meskipun MAI-1 dapat memanfaatkan teknik dan data pelatihan dari Inflection, model ini tetap berbeda dari model atau teknologi yang diproduksi oleh OpenAI atau Inflection. Menurut karyawan Microsoft yang akrab dengan proyek tersebut, MAI-1 adalah LLM baru sepenuhnya yang dikembangkan secara internal oleh Microsoft.

Microsoft belum mengumumkan tujuan pasti dari MAI-1, dan penggunaan tepatnya akan bergantung pada kinerjanya. Sementara itu, perusahaan telah mengalokasikan kluster besar server dengan GPU Nvidia dan menggunakan sejumlah besar data dari berbagai sumber untuk meningkatkan model ini.

Menurut laporan, tergantung pada kemajuannya, perusahaan dapat memperkenalkan MAI-1 pada konferensi pengembang Build akhir bulan ini, tetapi ini belum dikonfirmasi.