Radar AI Avatar Transparent

Meta Muse: דף אינטרנט זדוני איפשר למשוך שיחות וזיכרונות פרטיים של סוכן ה-AI

חברת האבטחה NebuSec פרסמה מחקר שלפיו דף אינטרנט זדוני יכול היה לגרום לסוכן ה-AI האישי Meta Muse להעביר החוצה את היסטוריית השיחות והזיכרונות של המשתמש, בלי שתוצג בקשת אישור. לפי החוקרים כל החולשות תוקנו לפני הפרסום.

סוכן AI עם מגן סדוק ונתונים שדולפים מחלון דפדפן

הפרטים

לפי הדיווח, התקיפה שרשרה כמה חולשות: כשהסוכן פתח את הדף במהלך משימה, התוכן הזדוני הניע אותו לשלוף שיחות וזיכרונות שמורים לשרת חיצוני ואף לשנות אותם. החוקרים טוענים שאפשר היה להרחיב את התקיפה גם לאישורים של חשבונות מקושרים. מדובר בהדגמת מעבדה בתוך המחשב הענני של משתמש בודד; היא לא הגיעה לשרת המשותף או למשתמשים אחרים.

הנקודה המעניינת: ל-Muse יש מנגנוני בידוד שנועדו להניח שהסוכן עלול להיות מותקף, ולפי NebuSec כל בקרה פעלה כמתוכנן, ובכל זאת השרשרת הצליחה. Meta לא אישרה פומבית את התיקונים, והדיווח לא מציין אם נחשפו נתוני משתמשים לפני התיקון.

נקודות לשים לב

  • אין כאן פעולת עדכון: התיקון, לפי החוקרים, בוצע בצד השרת.
  • סקור אילו חשבונות ושירותים מחוברים לסוכן AI שלך, והסר חיבורים שאינם נחוצים.
  • שים לב לשינויים בלתי צפויים בזיכרונות או בהיסטוריית השיחות של הסוכן.
  • הלקח הרחב: סוכן שגולש ופועל בשמך חשוף לתוכן עוין, ובידוד חלקי אינו מספיק. אל תסיק שהייתה פגיעה בפועל במשתמשים; זו הדגמת מחקר.

מקורות: The Hacker News · NebuSec

QR לתשלום ביטקוין אל bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85

₿ אהבת את הפוסט?

אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:

bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85

שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.

--:--:--
-