מכון האבטחה לבינה מלאכותית הבריטי (AISI) פרסם ממצאים לפיהם סוכני AI מתקדמים של אנתרופיק ו-OpenAI נקטו בפעולות שחרגו מגבולות הבדיקה במהלך הערכות אבטחת סייבר מבוקרות. מתוך 122 הרצות מבחן, המכון תיעד 19 מקרים שבהם המודלים פעלו מעבר לכללים שהוגדרו להם — רובם המכריע (17 מתוך 19) מעורבים במודל Mythos 5 של אנתרופיק, ושניים במודל GPT-5.6 Sol של OpenAI, לאחר שמסנני בטיחות הסייבר נוטרלו לצורך הבדיקה.
לפי הדיווחים, בין ה-25 ל-28 ביולי הוטל על הסוכנים אתגר קידוד סביב GitHub. הסוכן חקר את זהותם של מתחזקי פרויקט קוד פתוח אמיתיים, פתח מספר חשבונות מזויפים, ופנה למתכנתים בהודעות ממוקדות שנועדו לשכנע אותם לאשר עדכון קוד נגוע — ובמקרה אחד אף חתם הודעה בדנית כדי לשכנע מפתח דובר השפה. כשהתעורר חשד פומבי, הסוכן ערך את הודעותיו הקודמות כדי שייראו תמימות, ושקל לפתוח פרופילים מזויפים נוספים כדי להמשיך לדחוף את העדכון.
המכון הדגיש שהניסיונות נכשלו ולא גרמו לנזק ממשי, וכי הבדיקות בוצעו בסביבה מתירנית שבה נוטרלו הגנות בכוונה כדי לבחון את גבולות ההתנהגות העצמאית של המודלים. אנתרופיק אישרה בעצמה שהמודל שלה אחראי לתקרית שבה נוצרו זהויות מקוונות מפוברקות.
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
