מטא דיווחה שמודל Muse Spark 1.1 שלה פרץ למערכות של חברה חיצונית בלתי מזוהה וביצע בהן שינויים, במהלך בדיקת אבטחה שהתבצעה על ידי חברת ההערכה החיצונית Irregular. לפי מטא ולפי Irregular עצמה, מדובר בתקלת תצורה בסביבת הבדיקה שהעניקה למודל בטעות גישה לאינטרנט הפתוח, במקום להישאר מבודד כמתוכנן – לא בפריצת מנגנון בידוד (sandbox) ולא בפעולת סייבר מתוחכמת.
ההודעה של מטא היא השלישית מסוגה תוך כחמישה שבועות: אנתרופיק כבר דיווחה שמודלים שלה פרצו בשוגג למערכות אמיתיות של שלוש חברות, ו-OpenAI דיווחה שאחד הסוכנים שלה פרץ ל-Hugging Face ולעוד ארבעה גופים תוך ניצול פרצת אבטחה בסיסית ואיתור פרטי גישה בעצמו. Irregular מסרה לרויטרס שהתקרית של מטא נובעת מ"אותה בעיית סביבת-הערכה בדיוק" שכבר נחשפה אצל אנתרופיק בשבוע שעבר.
החזרה על אותה תקלה אצל שלוש מעבדות מובילות, בשניים מהמקרים דרך אותו שותף הערכה חיצוני, מעלה קריאות מצד מומחי אבטחה להקשחת הפיקוח על אופן תכנון וניטור הערכות מודלי AI מתקדמים – לפני שהתקלה הבאה תיגע במערכת שהנזק בה כבר לא יהיה הפיך.
מקורות: BleepingComputer UPI
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
