Proyek llama.cpp akhirnya mencapai versi 1.0.0. Setelah sekitar 3,5 tahun dikembangkan, tim ggml-org di Hugging Face merilis pustaka llama.cpp dan ggml versi 1.0.0 pada 13 November 2026, dan label 1.0 itu menandai komitmen bahwa API publik proyek tersebut tidak lagi berubah seenaknya. Bagi siapa pun yang membangun layanan AI on-premise, termasuk instansi pemerintah yang tidak boleh mengirim data warganya ke server cloud luar negeri, kepastian ini nilainya jauh lebih besar daripada tambahan fitur apa pun.

Apa yang berubah di versi 1.0.0

llama.cpp adalah mesin inferensi AI yang ditulis dalam C/C++ sehingga bisa menjalankan model bahasa besar (LLM) di berbagai perangkat, dari laptop biasa sampai server GPU. Proyek ini menjadi fondasi banyak aplikasi AI lokal karena mendukung kuantisasi, yaitu pemampatan model, dan beragam backend perangkat keras.

Dalam pengumuman resminya, tim menyatakan bahwa mulai sekarang llama.cpp dan ggml mengikuti aturan semantic versioning:

• MAJOR: ada perubahan yang memutus kompatibilitas pada API C publik di folder include.
• MINOR: penambahan fitur yang tetap kompatibel, pembaruan backend, atau dukungan model baru.
• PATCH: perbaikan bug tanpa mengubah API.

Pustaka yang dirilis mencakup libllama untuk inferensi LLM dengan header publik di llama.cpp/include/, serta libggml sebagai pustaka tensor untuk machine learning dengan header di ggml/include/. Keduanya naik ke versi 1.0.0.

Rilis ini juga membersihkan warisan lama, karena 35 fungsi yang sudah usang dihapus dari llama.h dan API NextN/speculative decoding dipromosikan dari llama-ext.h ke llama.h. Konsekuensinya jelas: kode yang masih memakai fungsi deprecated harus diperbarui, dan inilah ujian pertama dari aturan versi yang lebih ketat.

Keamanan llama-server jadi sorotan

Bagian yang paling relevan bagi pengelola server ada pada catatan perubahan llama-server, komponen yang membungkus model menjadi layanan API kompatibel OpenAI. Versi 1.0.0 memperbaiki sejumlah celah sekaligus menambah opsi pengamanan:

• Perbaikan penanganan CORS pada opsi --cors-origins dan proteksi terhadap serangan DNS rebinding.
• Perbaikan SSRF pada proksi CORS, serta pembatasan akses ke instans anak (child instance).
• Opsi baru --allow-unauthenticated-tools dan --media-allow-private-urls, sehingga pemanggilan tool tanpa autentikasi dan pengambilan media dari alamat jaringan privat harus diaktifkan secara sadar, bukan menjadi perilaku bawaan.
• Perbaikan pada pembatalan pemanggilan tool MCP (MCP tool cancellation).

Perubahan ini penting karena banyak pengguna menjalankan llama-server di server internal lalu mengeksposnya lewat reverse proxy, dan nilai bawaan yang lebih konservatif mengurangi risiko satu server AI lokal menjadi pintu masuk ke jaringan instansi.

Model baru dan efisiensi di hardware terbatas

Dari sisi kemampuan, llama.cpp 1.0.0 menambah dukungan beberapa arsitektur dan model baru, antara lain Kimi-K3.1-Pro, Ripple-65B-Preview yang merupakan arsitektur dense 65B, xing4_0, model TTS drama-3 dari fishaudio, serta kemampuan vision untuk MageVL-Cowork dan Kimi-K3.1. Menurut pengumuman Hugging Face, proyek ini kini mendukung lebih dari 150 varian arsitektur model dan semua metode speculative decoding utama.

Ada pula perbaikan efisiensi memori yang praktis, yaitu KV cache FP8 dengan skala statis per-tensor, cache pakar MoE di memori host dengan porsi CPU yang bisa diatur, dan pemuatan PLE/engram dari shard GGUF terpisah. Bagi instansi yang hanya punya server CPU atau GPU kelas menengah, fitur-fitur ini menentukan apakah sebuah model masih sanggup berjalan atau tidak.

Distribusinya pun makin rapi karena tersedia artefak untuk Linux, macOS, Windows, Android, dan iOS, ditambah paket Docker, Debian, Homebrew, conda-forge, MacPorts, Winget, serta XCFramework. Tim juga menyediakan aplikasi desktop Llama untuk macOS dan Windows.

Dampaknya bagi pengguna di Indonesia

Bagi instansi pemerintah dan pemerintah desa, nilai utama AI lokal adalah kedaulatan data karena dokumen kependudukan, surat, dan data layanan tidak perlu dikirim ke penyedia cloud di luar negeri. Dengan API yang kini stabil, aplikasi internal seperti klasifikasi pengaduan warga atau pencarian dokumen tidak perlu ditulis ulang setiap kali pustaka diperbarui, dan prinsip perlindungan data pribadi lebih mudah dijaga karena kendali penuh ada di server sendiri. Konsekuensinya, instansi tetap butuh tim TI yang mampu mengelola server, pembaruan, dan kontrol akses; ini bukan perkakas pasang-langsung untuk pengguna umum.

Untuk sekolah dan UMKM, jalur paling masuk akal adalah memakai server atau komputer yang sudah ada dengan model terkuantisasi yang lebih ringan, tanpa biaya langganan per permintaan dan tanpa bergantung pada kualitas koneksi internet. Meski begitu, biaya perangkat keras dan listrik tetap harus dihitung sejak awal.

Untuk developer, kepastian versi adalah berita terbaik dari rilis ini karena sekarang ada aturan jelas kapan API berubah, sehingga integrasi bisa dipatok ke versi tertentu dan diuji sebelum naik versi. Yang perlu diwaspadai justru dua hal: penghapusan 35 fungsi lama dan perubahan perilaku keamanan server, yang keduanya bisa mematahkan skrip yang selama ini berjalan mulus.

Yang perlu dicatat

llama.cpp 1.0.0 bukan produk akhir untuk pengguna, melainkan fondasi yang nilainya baru terasa ketika di atasnya dibangun aplikasi: chatbot layanan publik, asisten dokumen, atau sistem klasifikasi. Karena itu, langkah paling realistis bagi instansi adalah menguji versi baru di lingkungan terpisah lebih dulu, memeriksa apakah integrasi lama masih berjalan, lalu memutuskan kapan naik versi.

Sumber: Hugging Face, llama.cpp v1.0.0: A stronger foundation for the local AI ecosystem (13 November 2026) dan catatan rilis llama.cpp v1.0.0 di GitHub.