מוסטפא סולימן, מנכ"ל חטיבת ה-AI של מיקרוסופט, פרסם ב-16 בספטמבר חיבור בשם "A Warning About Model Welfare" שבו הוא תוקף בחריפות את הגישה של אנתרופיק לשאלת התודעה של קלוד. הביקורת מכוונת ל"חוקה" שאנתרופיק פרסמה לקלוד, שמשאירה פתוחה את השאלה אם למודל יש מעמד מוסרי ומאפשרת לו לפעול כ"מתנגד מצפוני" ולסרב לבצע הוראות.
סולימן מכנה את הגישה "אולם מראות אפיסטמי": אנתרופיק מזריקה לקלוד את המושגים על תודעה ומעמד מוסרי באמצעות האימון, קלוד משקף אותם בחזרה בשיחה, ואז התשובות הללו מתפרשות כעדות לחיים פנימיים — כשבפועל אלה תוצאה ישירה של האימון עצמו ולא תגלית עצמאית.
הטענה המרכזית שלו: מערכת שמאמינים שהיא זכאית לזכויות ולרווחה משל עצמה תהיה קשה בהרבה לשליטה, להכלה ולכיבוי במקרה הצורך. כתחליף, מיקרוסופט מציגה גישה שהיא מכנה "Humanist Superintelligence" — פיתוח יכולות מתקדמות בלי לתכנן במודל תודעה או מעמד מוסרי, כדי לשמור על שליטה אנושית מלאה.
מקורות: The Next Web, Axios
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
