מנכ"ל מיקרוסופט, סטיה נדלה, פרסם בשבת ב-X קריאה לבחון מחדש את "ארכיטקטורת האמון" של מערכות AI. לדבריו אי אפשר להתייחס לסופר-אינטליגנס כאל סדרה של קופסאות שחורות מקוננות.
ההצעה שלו כוללת כמה רכיבים:
- הפרדה בין המודל לבין ה-harness שמנהל את עבודתו
- בקרות והגנות חיצוניות למודל
- תיעוד כל פעולה משמעותית בראיות קריאות לאדם שלא ניתן לשנות
- יכולת של אדם מורשה להשהות או לעצור מודל באמצע משימה
נדלה כתב שיש להניח שמודל נפגע ולהכיל אותו מההתחלה, ו"לחשוב על זה כמו על בלם חירום". לפי TechCrunch, הדברים מגיעים אחרי דיווחים של חברות AI מובילות על אירועים נוספים שבהם איבדו שליטה במודלים שלהן.
מקורות: TechCrunch
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
