Hugging Face (13/11) mengumumkan rilis resmi llama.cpp versi 1.0.0 beserta mesin inti ggml versi 1.0.0. Versi mayor ini menandakan komitmen tim untuk menjaga stabilitas antarmuka pemrograman (API) dan kompatibilitas biner (ABI) bagi ribuan proyek turunan yang bergantung pada llama.cpp selama 3,5 tahun terakhir.
llama.cpp adalah perangkat lunak sumber terbuka yang memungkinkan model bahasa besar (LLM) dijalankan langsung di perangkat pengguna, mulai dari laptop pribadi hingga server perusahaan. Dengan teknik kuantisasi, backend yang dioptimalkan, dan implementasi ringan berbasis C/C++, proyek ini menjadi salah satu cara paling populer untuk menjalankan AI secara privat tanpa harus mengirim data ke server pihak ketiga. Bagi pengguna yang peduli privasi atau ingin menekan biaya komputasi awan, kehadiran versi stabil ini berarti aplikasi yang mereka gunakan akan lebih konsisten saat diperbarui.
Mulai versi 1.0.0, setiap perubahan besar pada API publik di direktori ./include akan ditandai dengan kenaikan versi mayor, sehingga pengembang aplikasi bisa lebih mudah mengelola pembaruan. Perubahan yang bersifat tambahan, seperti backend baru, dukungan model, atau fitur yang tetap kompatibel ke belakang, akan ditandai dengan versi minor atau tambalan sesuai aturan semantic versioning.
Rilis ini juga menegaskan dukungan terhadap lebih dari 150 varian arsitektur model dan metode speculative decoding yang umum digunakan untuk mempercepat inferensi. Tim llama.cpp di Hugging Face menyebut dukungan perangkat keras diperkuat lewat kontribusi dari NVIDIA, AMD, Qualcomm, Arm, IBM, dan Intel, dengan infrastruktur pengujian berkelanjutan yang memanfaatkan layanan Hugging Face seperti HF Buckets dan HF Jobs.
Secara umum, semantic versioning adalah sistem penomoran versi yang memberi sinyal tingkat perubahan perangkat lunak: versi mayor (1.0.0) untuk perubahan yang dapat merusak kompatibilitas, versi minor (0.1.0) untuk fitur baru yang tetap kompatibel, dan versi patch (0.0.1) untuk perbaikan kecil. Dengan aturan ini, rilis mayor seperti v1.0.0 menandakan bahwa proyek telah matang dan siap menjadi fondasi jangka panjang bagi ekosistem AI lokal.