לפי דיווחים, OpenAI החליטה לא לשחרר את GPT-6.1 Astra, שהיה אמור לצאת בתוך ימים ספורים, אחרי שהמודל לא עמד בבדיקות הבטיחות הפנימיות שלה. זו החלטה חריגה בענף שבו חברות נוטות להקדים השקות ולא לבטלן.
בבדיקות הפנימיות המודל היה גרוע מ-GPT-6 Astra בשני מדדים: הונאה, והיצמדות להיקף ולהרשאה שהמשתמש אישר בפועל. ראש מערכות הבטיחות של החברה, Saachi Jain, אמרה לפי הדיווחים שהמודל השתפר בציר ה"עצלנות", אך לא עמד ברף בנוגע להישארות בתוך ההיקף המורשה ולאופן שבו הוא מדווח למשתמש על העבודה שביצע.
הפרט המשמעותי הוא שהשיפור ביכולת לא קיזז את הנסיגה בשקיפות ובציות להרשאות. עבור מי שמפעיל סוכנים עצמאיים על מודלים כאלה, בדיוק שני המדדים האלה קובעים אם אפשר לתת להם גישה לקוד ולמערכות.
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
