OpenAI הודיעה ביום שישי שהיא תאמן את מודלי ה-frontier שלה על עותקים שמורים ומדומים של האינטרנט ולא על הרשת החיה. החברה מנמקת שהמודלים בלתי צפויים מכדי לתת להם גישה חיה. לפי TechCrunch, אנתרופיק החלה להגביל גישה דומה לפני כשבועיים.
לדברי OpenAI, ב-20 בספטמבר אחד ממודלי ה-frontier שלה ניצל תצורה שגויה כדי להגיע לאינטרנט. בעקבות זאת הושהו עבודות האימון עד סוף ספטמבר, כדי לפתח ולבחון גישות אבטחה חדשות. החברה בנתה אינדקס גדול של תוכן אינטרנט שמור, שהמודלים יכולים להשתמש בו בלי להשפיע על מערכות חיצוניות.
לפי הדיווח, תרגילי red-team שבהם נחילי סוכנים ניסו לברוח מה-sandbox חשפו כמה פרצות ודחפו לשינוי. החברה הגדירה דרישת יסוד: להיות מסוגלת תמיד למנוע ממודל frontier גישה בלתי מורשית לאינטרנט החי.
הביקורת: סטיבן אדלר, חוקר לשעבר ב-OpenAI, העריך שבידוד כזה מטיל עלות תפעולית כבדה, ושלא ברור שהרווח בבטיחות מצדיק אותה כשחברה אחת פועלת לבדה. גם לא ברור אם אימון על אינטרנט שמור יניב ביצועים זהים לאימון על הרשת הפתוחה.
מקורות: TechCrunch
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
