גוגל הכריזה ב-9 בנובמבר על שתי מערכות TPU נוספות בדור השמיני, כך שהמשפחה מונה כעת ארבע מערכות: 8t לאימון, 8i לאינפרנס, ושתי החדשות, 8tx ו-8i Max. הצעד מבהיר שגוגל מפצלת את שבבי ה-AI שלה לפי סוג העומס, ולא מסתפקת בשבב אחד לכל המשימות.
לפי הדיווחים, ה-8tx מבוסס על אותו סיליקון של ה-8t, אך משולב עם מעבדי מארח של AMD. AMD מציינת שמדובר במעבדי EPYC מהדור החמישי, ומתארת אותו כמערכת ה-TPU הראשונה בענן עם חישוב חסוי (confidential computing) שנאכף בחומרה. הרעיון: להגן על נתונים ומודלים גם בזמן שהם נמצאים בשימוש, וכך לאפשר הרצת אינפרנס רגיש, למשל בארגונים מפוקחים.
ה-8i Max משלב שני שבבי 8i באריזה אחת, ולפי הדיווחים מכפיל את כוח החישוב, את ה-SRAM שעל השבב ואת רוחב הפס של זיכרון ה-HBM לעומת ה-8i הרגיל. הוא מכוון לעומסים עתירי זיכרון, כמו הרצת מודלים עם הקשר ארוך.
- לפי אחד הדיווחים, מועד הזמינות והמחיר טרם פורסמו.
- ההשערה על TPU מהדור העשירי שיפותח יחד עם AMD לא אושרה על ידי גוגל.
מקורות: DatacenterDynamics, Network World, AMD Newsroom
₿ אהבת את הפוסט?
אפשר לשלוח לי ביטקוין ישירות לכתובת שלי. סרקו את הקוד, או העתיקו את הכתובת:
bc1qsn043qmlv4ejxydeknkfm9u6e93e6tegmq9x85
שימו לב: העברה on-chain כרוכה בעמלת רשת שאינה תלויה בסכום, ולכן סכומים קטנים מאוד אינם כדאיים.
