Inkling adalah peluncuran model AI besar pertama dari Thinking Machines Lab, dan hadir kurang lebih setahun setelah perusahaan rintisan ini didirikan.
Lab Mesin Berpikir Mira Murati telah meluncurkan model sumber terbuka multimodal pertama yang disebut Inkling. Model ini adalah yang pertama dari start-up yang dilatih pada sistem Nvidia GB300 NVL72, menyusul kemitraan antara kedua perusahaan pada awal tahun ini.
Inkling tidak menjanjikan untuk menjadi model terbuka atau tertutup terkuat yang ada, melainkan memasarkan dirinya sebagai model yang dibuat untuk disesuaikan. Ini memiliki total parameter 975 miliar, dengan 41 miliar parameter aktif dan mendukung jendela konteks hingga 1 juta token.
“Inkling dirancang untuk bersifat luas. Kami melatihnya dalam tugas-tugas agenik, penalaran, pengkodean, mengikuti instruksi, faktualitas, visi, dan audio, daripada mengoptimalkan secara sempit untuk satu domain,” kata Thinking Machines Lab dalam sebuah posting blog yang mengumumkan model baru tersebut pada Rabu (15 Juli).
Model tersebut, tersedia untuk diunduh di Hugging Face, dilatih menggunakan 45trn token teks, gambar, audio, dan video. Itu dapat memasukkan teks, gambar dan audio dan hanya mengeluarkan teks. Ini adalah transformator Mixture-of-Experts yang mengikuti desain serupa dengan DeepSeek-V3.
Kartu model Inkling menempatkannya tepat di sekitar model open-weight sezamannya, termasuk Kimi K2.5, Kimi K2.6, GLM 5.2 dan DeepSeekV4 Pro, di seluruh benchmark. Model ini menghasilkan output audio yang jauh lebih baik dibandingkan model bobot terbuka dan bobot tertutup yang sebanding.
Peluncuran ini merupakan pameran model AI besar pertama dari Thinking Machines Labs setelah lebih dari satu tahun dikembangkan.
Murati, yang meninggalkan OpenAI sebagai chief technology officer pada tahun 2024, mendirikan perusahaan rintisannya hanya beberapa bulan setelahnya, dengan rencana untuk membuat “sistem AI lebih dipahami secara luas, dapat disesuaikan, dan secara umum mampu”.
Perusahaan rintisan ini dengan cepat mengumpulkan $2 miliar pada bulan Juli tahun lalu untuk mencapai valuasi $12 miliar, dengan laporan dari bulan November menunjukkan bahwa Thinking Machines Lab sudah siap untuk mengumpulkan dana dengan valuasi $50 miliar.
Bersamaan dengan Inkling, perusahaan juga meluncurkan Inkling-Small dalam pratinjau – model berbobot lebih ringan dengan 12 miliar parameter aktif yang diharapkan dapat mencapai kinerja kuat dengan “biaya dan latensi lebih rendah”.
Nvidia menyukai Thinking Machines Lab, yang melakukan investasi “signifikan” pada perusahaan rintisan tersebut dan mengajak perusahaan tersebut menjalin kemitraan multi-tahun untuk mengembangkan model AI-nya. Kemitraan ini diperkirakan akan merugikan pembuat chip tersebut beberapa miliar.