מטא פרסמה את Muse Glimmer, מודל שפה פתוח בן 30 מיליארד פרמטרים שמיועד לרוץ באופן מקומי על מחשב אישי או כרטיס מסך יחיד, בלי צורך בחיבור לענן. המודל מופץ במשקלים פתוחים תחת רישיון Apache 2.0, ונועד לתמוך בסוכני AI אוטונומיים שפועלים ישירות על המכשיר של המשתמש — לצד Muse Code, סוכן הקידוד לטרמינל שמטא השיקה בשבוע שעבר.
Muse Glimmer זוקק מהמודל הגדול יותר Muse Spark, וכולל קידוד תמונה ייעודי, יכולות הבנה רב-מודלית, שימוש אמין בכלים והתאוששות מכשלים — הכול במודל אחד. הוא תומך בחלון הקשר של 131 אלף טוקנים וביותר מ-100 שפות. גרסה דחוסה ל-4 סיביות מצטמצמת לפחות מ-20 גיגהבייט, כך שהמודל השלם רץ בנוחות בתוך 24 או 32 גיגהבייט זיכרון — כלומר על מחשב נייד או שולחני ביתי סביר.
מטא משתמשת בטכניקת פענוח ספקולטיבי בשם DFlash שמאיצה משמעותית את קצב יצירת הטקסט בלי לפגוע באיכות הפלט. המודל זמין כבר עכשיו ב-Hugging Face ונתמך בכלים נפוצים כמו Ollama, LM Studio ו-llama.cpp.
מקורות: MarkTechPost Neowin
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
