חברת האבטחה NebuSec פרסמה מחקר שלפיו דף אינטרנט זדוני יכול היה לגרום לסוכן ה-AI האישי Meta Muse להעביר החוצה את היסטוריית השיחות והזיכרונות של המשתמש, בלי שתוצג בקשת אישור. לפי החוקרים כל החולשות תוקנו לפני הפרסום.

הפרטים
לפי הדיווח, התקיפה שרשרה כמה חולשות: כשהסוכן פתח את הדף במהלך משימה, התוכן הזדוני הניע אותו לשלוף שיחות וזיכרונות שמורים לשרת חיצוני ואף לשנות אותם. החוקרים טוענים שאפשר היה להרחיב את התקיפה גם לאישורים של חשבונות מקושרים. מדובר בהדגמת מעבדה בתוך המחשב הענני של משתמש בודד; היא לא הגיעה לשרת המשותף או למשתמשים אחרים.
הנקודה המעניינת: ל-Muse יש מנגנוני בידוד שנועדו להניח שהסוכן עלול להיות מותקף, ולפי NebuSec כל בקרה פעלה כמתוכנן, ובכל זאת השרשרת הצליחה. Meta לא אישרה פומבית את התיקונים, והדיווח לא מציין אם נחשפו נתוני משתמשים לפני התיקון.
נקודות לשים לב
- אין כאן פעולת עדכון: התיקון, לפי החוקרים, בוצע בצד השרת.
- סקור אילו חשבונות ושירותים מחוברים לסוכן AI שלך, והסר חיבורים שאינם נחוצים.
- שים לב לשינויים בלתי צפויים בזיכרונות או בהיסטוריית השיחות של הסוכן.
- הלקח הרחב: סוכן שגולש ופועל בשמך חשוף לתוכן עוין, ובידוד חלקי אינו מספיק. אל תסיק שהייתה פגיעה בפועל במשתמשים; זו הדגמת מחקר.
מקורות: The Hacker News · NebuSec

₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.