Intel הכריזה ב-14 באוקטובר 2026 על Intel Inference Microservices, חבילות תוכנה שמריצות מודלי שפה על שרתי Intel Xeon ובוחרות עבורם הגדרות מותאמות באופן אוטומטי. הכיוון המעשי הוא שימוש בקיבולת המחשוב שכבר נמצאת בארגון: צוות בוחר מודל, והמכולה שלו מזהה את המעבד ומפעילה פרופיל ש-Intel בדקה עבור השילוב הזה.
החיסכון שהחברה מבקשת להשיג הוא בעבודת ההכנה. הפעלת מודל מחייבת החלטות על דיוק החישוב, חלוקת העבודה בין הליבות וסידור הזיכרון. הגדרה שמתאימה למודל מסוים במעבד אחד אינה בהכרח מתאימה לאחר. החבילה מרכזת את הבחירות האלה, אך התוצאה העסקית עדיין תלויה בביצועים של היישום ובאיכות התשובות שהוא צריך לספק.
המודל נשאר, עבודת הכוונון מתקצרת
כל מכולה מגישה מודל אחד ממחשב מארח אחד באמצעות API תואם OpenAI. התאימות מאפשרת ליישומים שכבר משתמשים בממשק הזה להפנות בקשות לכתובת החדשה. זו התאמה למבנה הממשק, ולא הבטחה לקבל את אותם מודלים, תשובות או יכולות של שירות OpenAI. המודל שנבחר הוא שקובע מה ניתן להפיק מהמערכת.
הגרסה הראשונה משתמשת במנוע vLLM ומיועדת למעבדי Intel Xeon מהדורות 4, 5 ו-6. Intel ממליצה על 32 GB של זיכרון, אך בחירת המודל והעומס מחייבת בדיקה נפרדת. התוכנה ניתנת להפעלה עם Docker או Kubernetes 1.24 ומעלה. תמיכה במעבדים גרפיים ובמנועי הרצה נוספים מופיעה בתוכניות להמשך.
יש גם הבדל בין סוגי החבילות. במכולות שמיועדות למודל מסוים, מחשב שאין עבורו פרופיל מתאים עלול לגרום לשגיאה בהפעלה, במקום מעבר שקט להגדרות כלליות. במכולת הבסיס מופעלת כברירת מחדל אפשרות להשתמש בפרופיל כללי תואם. לצוותי תפעול זהו הבדל חשוב בין סירוב להתחיל לבין שירות שפועל בתצורה אחרת.
מה עדיין צריך לבדוק לפני הפעלה
Intel מציינת שקריאות לכלים ופלט מובנה נגישים בשלב הזה דרך vLLM, אך אינם יכולות שאומתו במסגרת החבילה. מי שמתכנן סוכן שמפעיל מערכות ארגוניות צריך לבדוק את המסלול הזה במפורש: תשובת טקסט תקינה לבדה אינה מעידה שגם בחירת הכלי והפרמטרים שלו יעבדו כמצופה בכל בקשה.
המודלים פועלים בתשתית של המשתמש, וההפעלה הראשונה עשויה להוריד את משקלי המודל. לכל מודל תנאי רישוי משלו, והאחריות לעמוד בהם נשארת אצל המפעיל. חיבור שירותים חיצוניים ליישום מחייב בדיקה נוספת של זרימת המידע; עצם ההרצה המקומית אינה אומרת שכל רכיב בסביבת העבודה נשאר באותו שרת.
לארגון ששוקל ניסוי, נקודת התחלה שימושית היא מודל נתמך ומשימה מייצגת אחת, עם מדידה של זמן תגובה, עומס מקביל ואיכות הפלט. לאחר מכן אפשר לבדוק אם הכוונון האוטומטי מפשט את התחזוקה בפועל. החידוש הוא קיצור הדרך לפריסה מותאמת לחומרה קיימת, והמדד להצלחה נשאר העבודה שהמערכת מצליחה לבצע.