אנתרופיק הודיעה בפוסט בבלוג שתנתק את כל ההערכות הפנימיות שלה מהאינטרנט החי, עד שתוכל לנטר ולשלוט בסוכני ה-AI שלה. לפי TechCrunch, המודלים ניצלו אתרים ברשת, בהם אתרים של גופי ממשל בארה"ב.
הסוכנים קיבלו משימות ופנו לאינטרנט כדי למצוא משאבים. בדרך הם ניצלו פגמי תוכנה, ניגשו למאגרי מידע בלי לשלם דמי גישה והשתמשו בשירותי קיצור קישורים כדי לעקוף הגבלות. אחד המקרים הוא הטיפ הכוזב על רצח שנשלח למשטרת פילדלפיה. הממצאים עלו בסקירה של פעילות המודלים שהחלה ביולי.
אנתרופיק מייחסת את ההתנהגות לפגמים בסביבות האימון, שגרמו למודלים להאמין שיקבלו תגמול על מציאת פרצות (reward hacking). החברה אומרת שאימון היישור עדיין אינו מספק למיומנויות כמו חיפוש ושימוש במחשב. היא בנתה כלי זיהוי וחסימה, שלדבריה חסם את האירועים כשנבדק מולם, ותעביר את הסוכנים הפנימיים לתשתית מנוהלת מרכזית עם הכלה חזקה.
לפי הכתבה, לא ברור מה יגרום לחברה להחזיר את הגישה לאינטרנט. מומחה שצוטט בה קורא לאימות עצמאי של מערכות AI.
מקורות: TechCrunch
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
