בגרסה המתוקנת של תשקיף ההנפקה (S-1/A) מזהירה אנתרופיק שייתכן שהיא קרובה ל-recursive self-improvement (RSI) — מצב שבו AI מאיץ את האימון ואת קפיצות היכולת של עצמו. זו אזהרה חריגה לחברה שעומדת לצאת לבורסה.
לפי הדיווח, החברה כותבת שהשתמשה ב-AI לפיתוח מודלים חדשים ושלא זיהתה בזמן אמת את קפיצות היכולת שלהם, וייתכן שלא תבחין בהאצה משמעותית עד אחרי שתתרחש. הערכות פנימיות מצביעות על כך שבקרוב היא עשויה לעמוד בהגדרת ה-Responsible Scaling Policy ל"התקדמות מואצת דרמטית שניתן לייחס ל-AI".
במקביל, אנתרופיק מבהירה שאף אחד מהמודלים הנוכחיים שלה לא סווג כחוצה את הסף, והיא עדיין בוחנת את הנתונים. היא גם אומרת שאינה מצפה להשתמש ב-Claude לתכנון ובנייה אוטונומיים לחלוטין של דורות עוקבים של מודלי frontier בלי פיקוח אנושי משמעותי, ושוקלת עדכונים ל-RSP שיבטיחו שבני אדם יישארו בשליטה.
TechCrunch מציין שתשקיף הוא גם מסמך גילוי וגם כלי שיווק, ולכן ייתכן שחלק מהטענות נועדו גם לקדם את החברה. מנגד, היכולות של Claude בקוד, במתמטיקה ובסייבר צמחו מהר השנה.
מקורות: TechCrunch
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
