אחרי כשלוש וחצי שנות פיתוח, צוות llama.cpp שחרר את גרסה 1.0.0 — הגרסה היציבה הראשונה של המנוע להרצת מודלים פתוחים מקומית, יחד עם ggml 1.0.0. המשמעות למפתחים: הבטחה רשמית לגבי יציבות הממשק.
מעתה הפרויקט מתחייב להעלות גרסה ראשית בכל שינוי שובר-תאימות בממשקי libllama ו-libggml. כדי להגיע לשם הוסרו עשרות פונקציות שסומנו כמיושנות (המקורות חלוקים בין 35 ל-36), ולכן קוד שמקושר ל-libllama עשוי לדרוש עדכון.
בין שאר השינויים שדווחו: תמיכה ב-FP8 KV cache, נקודת קצה לשרת להמרת טקסט לדיבור ותמיכה במודל Kimi-K3.1. הפרטים מבוססים בעיקר על סיקור משני ולא על הערות השחרור הרשמיות.

₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.