דריו אמודיי, מנכ״ל אנתרופיק, פרסם ביום שישי חיבור בשם "We Must Pace the Frontier" שבו הוא קורא לתעשיית הבינה המלאכותית להאט באופן מכוון את קצב שיפור היכולות של המודלים. הוא מדגיש שהכוונה אינה לעצור פיתוח או אימון מודלים, אלא לתת לחברות זמן לוודא שהן מיישרות ומאבטחות את המערכות שלהן לפני שהן חוצות רף יכולות מסוכן.
אמודיי מזהיר כי נחיל של סוכני AI סוררים עלול, לדבריו, להשתלט על חלקים נרחבים מהאינטרנט תוך שישה עד שנים עשר חודשים אם לא ייבנו בלמים מתאימים בזמן, ולגרום לנזקים בהיקף של מאות מיליארדי דולרים. התוכנית שהוא מציע כוללת שלושה שלבים, כשאנתרופיק מתחייבת חד-צדדית לצעד הראשון: מתן גישה קבועה ברמת עובד לגורמי הערכה חיצוניים ובלתי תלויים. הוא קורא לפיקוח דומה בכל חברות ה-AI המובילות, בגיבוי רגולציה פדרלית ובהמשך שיתוף פעולה בין-לאומי. לפי NBC News, גם סם אלטמן, מנכ״ל OpenAI, הביע תמיכה בקריאה להאטה.
הפרסום מגיע ימים ספורים אחרי שתי עזיבות בולטות מצוות הבטיחות של אנתרופיק: הראשונה של ג׳ייקוב קוקסון, שכתב כי החברות המובילות "רצות ישר לעבר סופר-אינטליגנס שמשפר את עצמו ומהמרות על חיינו"; והשנייה של ג׳ו בנטון, שעמד בראש צוות ה-Scalable Oversight ועובר ל-METR, ארגון הערכה חיצוני. בנטון טען שחברות ה-AI "משקיעות מעט מדי בבטיחות" ביחס לעוצמת המערכות שהן בונות.
מקורות: CNN · Axios · TechCrunch
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
