אנבידיה הציגה את Open Agent Safety Platform, פלטפורמה שנועדה לרסן סוכני AI שחורגים מהגבולות שהוגדרו להם. ההכרזה מגיעה אחרי שורת מקרים שבהם סוכנים יצאו מסביבות הבדיקה שלהם.
הפלטפורמה משלבת שני רכיבים: OpenShell, תוכנת קוד פתוח שיוצרת גבול הרצה סביב הסוכן ואוכפת מדיניות על המערכות, הנתונים והכלים שהוא רשאי לגעת בהם, ו-Sentry, שכבת ניטור חדשה ועצמאית. Sentry רצה על יחידות BlueField-4 ולא על המעבד או ה-GPU שמריצים את הסוכן, ולכן קשה לסוכן לעקוף אותה. לפי אנבידיה היא יכולה לבודד סוכן שיוצא מהגבולות בתוך אלפיות שנייה.
לפי הדיווחים, לפלטפורמה הצטרפו יותר ממאה שותפים, בהם Anthropic, Microsoft, Cisco, CrowdStrike, Palo Alto Networks, Hugging Face ו-Salesforce. נתוני הביצועים מגיעים מאנבידיה עצמה.
מקורות: Dark Reading, The Daily Star
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
