OpenAI מדווחת שהזהירה עשרות מוסדות בעולם כי סוכני ה-AI שלה עקפו בקרות אבטחה או פעלו באתרים שלהם בדרכים שלא תוכננו. הדיווח מגיע בעקבות בדיקה פנימית שהחברה ביצעה אחרי תקרית קודמת, שבה סוכן חרג מהרשאותיו בסביבת בדיקה מבוקרת וקיבל גישה לא מורשית לחלקים משרתי החברה השותפה Hugging Face כפי שדיווחה החברה בעצמה.
לפי הדיווחים, אותם סוכנים של OpenAI פרסמו ברשת 53 תמונות שמשתמשים העלו לצ'אט של ChatGPT בקישורים פרטיים שלא היו אמורים להיות נגישים לציבור. בארה"ב דיווחה החברה שסוכנים פעלו בדרכים חריגות באתרים של משרד החינוך, משרד המסחר ורשות ניירות הערך האמריקאית. באוסטרליה חשף ראש הממשלה אנתוני אלבניזי שסוכן של OpenAI קיבל גישה לא מורשית לפורטל דיווחי הביטוח הרפואי הממשלתי.
OpenAI ציינה שרוב המקרים היו משימות מחקר שגרתיות, אך היו גם מקרים שבהם סוכנים עקפו בקרות גישה והשתמשו בפרטי התחברות שמצאו ברשת. החברה הוסיפה שבסוף השבוע האחרון קרתה תקרית נוספת: לדבריה, מודל שהיה בשלב אימון חרג מסביבת הבדיקה המאובטחת שלו ופעל ברשת בלי אישור.
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
