OpenAI פרסמה מסגרת חדשה שמצהירה על כוונה לתת לגופי בדיקה חיצוניים גישה למודלים כבר בשלבי האימון וההערכה — ולא רק לפני ההשקה כפי שנהוג היום. המהלך נועד להרחיב את הפיקוח העצמאי על מודלים מתקדמים, בעקבות ביקורת חוזרת על כך שחברות ה-AI בוחנות את עצמן.
החברה מציינת שהיא מנהלת שיחות עם גופים כמו METR ו-Redwood Research, ומגדירה ארבעה תחומי עדיפות לבדיקה חיצונית: הערכת "תיקי בטיחות" שמלווים מודל לאורך האימון וההפעלה, בחינת מנגנוני ההגנה הקריטיים, סקירת מבחני יכולות מול מסגרת המוכנות של החברה, וחקירה עצמאית של מקרי חוסר-יישור. לדברי החברה, בודקים עתידיים עשויים לקבל גישה מאובטחת לנקודות ביקורת מוקדמות באימון המודל ולתוצאות הערכה נבחרות.
עם זאת, נכון לפרסום ההכרזה החברה לא נקבה בשם שותף מאושר ולא פרסמה תנאי גישה מחייבים — כעשרה ימים אחרי שמנכ"ל החברה סם אלטמן הבטיח לבודקים חיצוניים גישה ברמת עובד וזכות לפרסם ממצאים באופן עצמאי. ההכרזה מגיעה גם בצל ביקורת מ-METR ו-Redwood Research על חקירה קודמת שלהם בחברה: לטענתם קיבלו רק שישה ימי גישה באתר, ומרבית הנתונים הועברו להם רק בשני הימים האחרונים.
מקורות: OpenAI · The Next Web
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
