המערכת הבאה עדיין בדרך
Microsoft הודיעה ב-12 באוקטובר כי תרחיב את משפחת מאיצי Azure Maia לפריסות בהיקף של מספר גיגה-ואט החל ב-2027. במרכז התוכנית נמצא Maia 300, דור חדש שנועד להריץ מודלים לאחר שלב האימון ולשרת משימות של סוכני AI. זהו לוח זמנים לפריסות ייצור עתידיות, ולא הודעה על מערכת שכבר זמינה היום להזמנה או להפעלה אצל לקוחות.
ההבחנה הזאת חשובה מפני שהדור הקודם כבר עובד. לדברי Microsoft, מערכת Maia 200 משרתת עומסי ייצור, ובהם Microsoft Copilot, ותומכת בצוות מודלי MAI של החברה. GitHub Copilot ו-Microsoft Foundry אמורים להצטרף עד סוף השנה. ההכרזה מחברת אפוא בין ניסיון תפעולי קיים לבין דור חומרה עתידי, אך אינה הופכת את לוחות הזמנים של שני הדורות לזהים.
היעד שמציבה החברה ל-Maia 300 הוא 40% יותר טוקנים לכל מגה-ואט בהשוואה למערכות GPU מובילות. טוקנים הם יחידות המידע שהמודל מעבד ומפיק, ולכן המדד עוסק בכמות העבודה שניתן לקבל במסגרת הספק נתונה. זו תחזית ביצועים של Microsoft, לא תוצאה עצמאית שמוכיחה שכל יישום או כל מודל ישיגו את אותו שיפור בכל תנאי הפעלה.
לצד זאת, החברה מציגה תפוקת טוקנים גבוהה עד פי 7 לארון שרתים לעומת Maia 200, בתצורה מלאה של 96 מאיצים. הנתון מתייחס לארון השלם ולתצורה שנבחרה להשוואה. אין להסיק ממנו שמאיץ בודד מהיר פי 7, שתשובה אחת תגיע פי 7 מהר יותר, או שחשבון השירות של משתמש Copilot ירד באותו יחס כאשר המערכת תיפרס.
מדוע הזיכרון חשוב כמו החישוב
במפרט שפרסמה Microsoft, כל מאיץ כולל 288 GB של זיכרון HBM4 ורוחב פס מרבי של 18 TB/s, עם הספק תכנון תרמי של 950 ואט. בארון המלא יש 27.6 TB של זיכרון HBM ומעטפת הספק של 167 קילוואט. אלה נתונים ברמות שונות של המערכת: אין להשוות את צריכת השבב הבודד להספק הכולל של ארון השרתים כאילו מדובר באותו מדד.
מאחורי המספרים נמצאת בעיה מעשית: יחידות החישוב זקוקות לנתונים בזמן הנכון. אם הן מחכות לתוכן מהזיכרון או להעברה ממאיץ אחר, חלק מהיכולת שלהן אינו מנוצל. לכן יותר פעולות חישוב תיאורטיות אינן מבטיחות לבדן יותר תשובות שימושיות. התכנון שמציגה Microsoft מתמקד גם בקיצור המרחק שהנתונים עוברים ובהתאמה בין קצב ההעברה לבין העבודה שהמערכת צריכה לבצע.
הדבר בולט במשימות בעלות הקשר ארוך, שבהן המערכת צריכה לעבוד עם חומר רב לאורך השיחה, ובסוכנים שמבצעים רצף של צעדים. לדוגמה, סוכן שעובר על מסמכים, מפעיל כלי וממשיך לניתוח נוסף אינו מבצע בהכרח את אותה עבודה כמו צ'אט קצר. ההבדל הזה מסביר מדוע התאמה לעומס מסוים חשובה יותר מסיסמה כללית על שבב מהיר יותר לכל שימוש.
הארכיטקטורה משלבת שבבונים נפרדים לתפקידי חישוב, בקרת זיכרון וקלט ופלט, לצד תקשורת המבוססת על Ethernet. Microsoft מתארת את החומרה, הרשת והתוכנה כמערכת אחת. מבחינת מפעיל שירות, המשמעות היא שהשיפור המובטח תלוי גם באופן שבו מודלים ומשימות משובצים על המערכת, ולא רק במאפיין בודד שאפשר לקרוא בטבלת המפרט של המאיץ ולבודד מכל השאר.
מגבלת החשמל משנה את שאלת הביצועים
ההתמקדות בטוקנים למגה-ואט מעבירה את הדיון משאלה אחת לשתיים: כמה עבודה אפשר לבצע, וכמה חשמל נדרש כדי לבצע אותה. במתקן בעל תקציב הספק מוגבל, שיפור ביעילות עשוי לאפשר יותר שימוש באותה מסגרת. אולם יעילות גבוהה יותר אינה מוכיחה שצריכת החשמל הכוללת תרד, במיוחד כאשר אותה חברה מתכננת להרחיב מאוד את היקף התשתית שלה בשנים הבאות.
גם מדד הטוקנים דורש קריאה זהירה. מודלים שונים מפיקים תשובות שונות, ומשימות שונות דורשות אורכי קלט ופלט אחרים. כדי להעריך מערכת ליישום מסוים, צריך להסתכל גם על איכות התוצאה ועל הזמן עד לתשובה, ולא רק על קצב יצירת הטקסט. מערכת שמייצרת יותר טוקנים אינה בהכרח משלימה יותר משימות עסקיות מוצלחות באותה כמות של זמן או חשמל.
לכן השוואה מעשית עבור ארגון צריכה להחזיק כמה תנאים קבועים: סוג המשימה, המודל, אורך ההקשר ורמת השירות הנדרשת. למשל, מוקד שירות שמחכה לתשובה קצרה וניתוח ארוך שמבוצע ברקע מציבים דרישות שונות. זהו שיקול תפעולי שנובע מאופי העבודה, ולא הבטחה חדשה של Microsoft לכך שכל עומס ייהנה מאותה תוספת ביצועים או מאותו חיסכון לאחר המעבר לדור החדש.
הודעת החברה אינה קובעת מחיר חדש למשתמשי Copilot ואינה נותנת ללקוח הבטחה להוזלה אוטומטית. בין עלות הפעלת חומרה לבין מחיר מנוי או שירות ענן נמצאות החלטות תמחור ומגוון הוצאות נוספות. גם אם יעילות החומרה תשתפר כמתוכנן, יהיה צורך בהודעת מוצר או במחירון מתאים כדי לדעת כיצד הדבר מגיע בפועל לתקציב של הלקוח שמשלם על השירות.
מה כדאי לקחת מההכרזה עכשיו
למפתחי יישומים, ההכרזה מסמנת את סוג העבודה שספקית הענן מתכוננת אליו: יותר הקשר, יותר צעדים ויותר תיאום בין רכיבי המערכת. היא אינה מחייבת שינוי מיידי בקוד של יישום קיים. לפני החלטת מעבר צריך לבדוק את השירות המסוים שבו משתמשים, את המודלים שהוא מאפשר, את תנאי הזמינות ואת התוצאות בעומס האמיתי של הארגון, כאשר הפריסה הרלוונטית תהיה זמינה.
לארגונים בישראל אין בהכרזה הזאת אישור לפריסה מקומית של Maia 300 או התחייבות חדשה לתמיכה בעברית. אלה שאלות נפרדות משאלת מבנה השבב. ארגון שנדרש למיקום נתונים מסוים או לרמת איכות מסוימת בעברית צריך להמשיך לבדוק את אזור השירות ואת יכולות המודל עצמו. מפרט זיכרון גדול יותר אינו מחליף תשובה על דרישות אלה ואינו מבטיח אותן מעצמו.
כדאי גם להפריד בין כיוון אסטרטגי לבין מצב מוצר. Microsoft מתכננת להפוך את Maia למערכת ההסקה המרכזית של מוצריה ושירותיה, אך מתארת במקביל גישה הכוללת מגוון מודלים ורכיבי חומרה. ההכרזה אינה אומרת שכל שימוש ב-GPU ייפסק, שכל שירות יעבור יחד או שכל לקוח יבחר בעצמו על איזה מאיץ תרוץ כל בקשה שהוא שולח לענן של החברה.
השלב הבא יהיה לראות כיצד מפרט המערכת מתורגם לפריסות הייצור שתוכננו ל-2027, ואז לביצועים ולתנאי שירות שניתן לבדוק. עד אז, החדשות הן תוכנית תשתית מפורטת עם יעדי יעילות שאפתניים והבחנה ברורה בין הדורות. Maia 200 כבר משרת עומסי עבודה; Maia 300 אמור להרחיב את היכולת הזאת. המרחק בין השניים הוא פרויקט פריסה, לא עדכון שכבר הגיע לכל משתמש.