VASIOTA.COM, Berita AI – Peluncuran model open weight Kimi K3 dari Moonshot AI langsung mencuri perhatian industri kecerdasan buatan global. Model dengan kapasitas 2,8 trillion parameters ini tercatat sebagai model terbuka terbesar yang pernah dipublikasikan hingga saat ini.
Lompatan besar ini menunjukkan bagaimana pengembang asal China menyiasati pembatasan ekspor cip canggih. Alih-alih mengejar kekuatan compute murni yang sulit didapatkan, Moonshot AI memilih untuk memaksimalkan efisiensi memori pada setiap arsitektur desainnya.
Strategi Pintar Mengakali Keterbatasan Perangkat Keras
Kimi K3 menggunakan pendekatan mixture of experts yang membagi model menjadi 896 bagian spesifik. Sistem ini hanya memanggil 16 bagian atau sekitar 1,8 persen dari total keseluruhan saat memproses setiap kata.
Langkah tersebut berhasil memangkas kebutuhan komputasi secara drastis. Meski demikian, seluruh parameter tetap harus tersimpan di dalam memori agar selalu siap digunakan kapan saja.
Untuk menekan beban memori, Moonshot AI menerapkan teknik quantisation aware training dengan presisi 4-bit. Hasilnya, ukuran model berkurang secara signifikan dari 5,6 terabita menjadi sekitar 1,4 terabita.
Selain itu, fitur Kimi Delta Attention dihadirkan untuk menjaga kecepatan pemrosesan dokumen panjang hingga 1 million context window.
Tantangan Implementasi Bagi Sektor Bisnis
Penggunaan model raksasa ini memerlukan infrastruktur yang tergolong masif. Moonshot AI menyarankan penggunaan minimal 64 akselerator yang terhubung secara terpadu untuk menjalankan Kimi K3 dengan optimal.
Persyaratan perangkat keras tersebut membuat sebagian besar perusahaan lebih memilih skema dedicated cloud daripada mengelola peladen sendiri di lokasi mereka.
Dari segi biaya, Kimi K3 dipatok dengan harga 3 dolar AS per 1 million input tokens dan 15 dolar AS per 1 million output tokens. Angka ini menempatkan Kimi K3 pada tingkatan model premium, bukan lagi kategori hemat seperti versi sebelumnya.
BACA JUGA: OpenAI Rilis Presence, Layanan Agen AI Khusus Perusahaan yang Dilengkapi Tim Engineer Directly
Hasil Uji Performa dan Pengakuan Industri
Pada pengujian independen di platform Arena, Kimi K3 berhasil meraih peringkat teratas untuk kategori Frontend Code mengungguli beberapa pesaing utamanya.
Namun pihak Moonshot AI secara jujur mengakui bahwa performa keseluruhan Kimi K3 secara umum masih berada di bawah Claude Fable 5 dan GPT 5.6 Sol. Pengembang juga menyertakan beberapa batasan teknis terkait kestabilan hasil generasi konten.
Analis dari Bank of America menilai bahwa Kimi K3 menjadi bukti nyata bagaimana kombinasi pelatihan skala besar dan inovasi arsitektur mampu menghasilkan kemajuan signifikan, bahkan di tengah ketatnya batasan compute.
