גוגל מכריזה על TPU 8tx לחישוב חסוי ועל 8i Max להקשר ארוך

גוגל הכריזה ב-9 בנובמבר על שתי מערכות TPU נוספות בדור השמיני, כך שהמשפחה מונה כעת ארבע מערכות: 8t לאימון, 8i לאינפרנס, ושתי החדשות, 8tx ו-8i Max. הצעד מבהיר שגוגל מפצלת את שבבי ה-AI שלה לפי סוג העומס, ולא מסתפקת בשבב אחד לכל המשימות.

לפי הדיווחים, ה-8tx מבוסס על אותו סיליקון של ה-8t, אך משולב עם מעבדי מארח של AMD. AMD מציינת שמדובר במעבדי EPYC מהדור החמישי, ומתארת אותו כמערכת ה-TPU הראשונה בענן עם חישוב חסוי (confidential computing) שנאכף בחומרה. הרעיון: להגן על נתונים ומודלים גם בזמן שהם נמצאים בשימוש, וכך לאפשר הרצת אינפרנס רגיש, למשל בארגונים מפוקחים.

ה-8i Max משלב שני שבבי 8i באריזה אחת, ולפי הדיווחים מכפיל את כוח החישוב, את ה-SRAM שעל השבב ואת רוחב הפס של זיכרון ה-HBM לעומת ה-8i הרגיל. הוא מכוון לעומסים עתירי זיכרון, כמו הרצת מודלים עם הקשר ארוך.

• לפי אחד הדיווחים, מועד הזמינות והמחיר טרם פורסמו.
• ההשערה על TPU מהדור העשירי שיפותח יחד עם AMD לא אושרה על ידי גוגל.

מקורות: DatacenterDynamics, Network World, AMD Newsroom