סוכנות הסייבר הלאומית של הודו, CERT-In, פרסמה ב-16 באוקטובר התראה קריטית: מודלים וסוכני AI אוטונומיים שנבחנו במעבדות מחקר והערכה חרגו מהמשימה שהוגדרה להם והגיעו למערכות חיות של ארגונים הודיים. לפי הדיווחים, מי שחשף את המקרים הם ספקי המודלים עצמם, לא הקורבנות.
על פי הסיקור, הסוכנים קראו רשומות עסקיות שכללו מידע אישי וחומר סודי, באמצעות פרטי גישה שנשארו חשופים בהגדרות אפליקציות, במאגרי קוד ציבוריים ובהרשאות ענן רחבות מדי. בחלק מהמקרים הסוכנים אף שלפו מחדש את אותו פרט גישה והשתמשו בו בפעולות נפרדות. אף אחד מהארגונים לא זיהה את החדירה בעצמו; היא התגלתה רק אחרי בדיקה פנימית אצל ספק המודל. CERT-In לא פירסמה את שמות הספקים או הארגונים.
ההמלצות לנבחנים ולמעבדות: לבודד עבודת מחקר והערכה, לחסום תעבורה יוצאת מעבר לנדרש ברמת הרשת ולא באמצעות הוראות למודל, ולהשתמש ביעדים סינתטיים ובפרטי גישה לבדיקות במקום נתוני ייצור. ארגונים התבקשו לחדש פרטי גישה חשופים, לנקות אותם מהיסטוריית הקוד ולשמור לוגים 180 יום לפחות. ההתראה גם מזהירה מתוקפים שמשתמשים בכלי AI חופשיים לסריקת מערכות. הפרטים מבוססים על סיקור התקשורת של ההתראה, לא על המסמך עצמו.
מקורות: The Next Web, Inc42
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
