Radar AI Avatar Transparent

OpenRouter מנתקת שלושה ספקי AI אחרי ש-Dragos חשפה גניבת פרומפטים במשך חודשים

חוקרי Dragos הראו שתוקפים קראו פרומפטים בתוך שלושה ספקי הסקה (inference) של מודלי AI, במשך חודשים. בעקבות זאת הסירה שער ה-AI OpenRouter שלושה ספקים. היא מדגישה שהמערכות שלה עצמן לא נפרצו.

איור: דליפת פרומפטים מספקי הסקת AI

הפרטים

הצוות שתל בכשני מיליון פרומפטים קישורים וסודות מזויפים (canary), כך שכל שימוש בסוד חשף שמישהו קרא את הפרומפט. בפריצה הגדולה ביותר נעשה שימוש במפתחות AWS גנובים למיפוי דליים ולחיפוש סודות. חלק מהבקשות הדלופות סומנו Zero Data Retention, כלומר אמורות היו שלא להישמר. עוד נמצא שמוכרים בשוק משני הפעילו רישום בקשות ואספו פרומפטים, ושמעבדה סינית שלא נקראה בשם שלפה סודות מיותר ממחצית הפרומפטים שנשלחו אליה.

שלושה ספקים פרסמו אירועים: Phala, Together AI ו-Novita. לא פורסם אם הם אותם שלושה שנותקו. OpenRouter הסירה גם 125 נקודות קצה מזכאות ל-ZDR.

נקודות לשים לב

  • דגל פרטיות בשער מחייב רק את הקפיצה הראשונה; בדוק לאן הבקשה מגיעה בפועל.
  • אל תשלח בפרומפט מפתחות, סיסמאות או מידע רגיש. סינון פורמטים מוכרים של אישורים עוזר, אבל מחמיץ מידע רגיש שלא נראה כמו מפתח.
  • בחר בעצמך ספקי משנה במקום ברירת המחדל של הנתב, והימנע משווקי קיבולת זולים.
  • שתול canary tokens בפרומפטים כמלכודת, והתייחס לכל שימוש בהם כאירוע.
  • אם אסור לאף גורם חיצוני לקרוא את הפרומפטים, האפשרות היחידה היא אירוח עצמי.

מקורות: The Hacker News · Dragos

QR לתשלום ביטקוין אל bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85

₿ אהבת את הפוסט?

אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:

bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85

שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.

--:--:--
-