חדשות

מודלים בעלי משקלים פתוחים עברו את מחצית הטוקנים ב-AI Gateway של Vercel

לפי Vercel, מודלים בעלי משקלים פתוחים עיבדו 56% מהטוקנים באוגוסט אך היוו 14% מההוצאה. מה הנתון מלמד, ומה אי אפשר להסיק ממנו.

מודלים בעלי משקלים פתוחים עיבדו 56% מהטוקנים שעברו ב-AI Gateway של Vercel באוגוסט, לעומת 7% בדצמבר 2025. למרות הרוב בנפח, חלקם בהוצאה עמד על 14% בלבד. הנתונים מופיעים בדוח ספטמבר של החברה, שעמודו מציג תאריך 17 בספטמבר ומכסה תעבורה עד אוגוסט.

זהו נתון על שער השירות של Vercel, ולא על כלל שוק הבינה המלאכותית. ההבחנה מצמצמת את היקף המסקנה, אך משאירה שאלה עסקית מעניינת: כיצד מחלקים משימות בין מודלים כשנפח שימוש והוצאה כספית מספרים סיפורים שונים?

רוב בנפח אינו רוב בערך העסקי

לפי Vercel, זו הפעם הראשונה שבה מודלים בעלי משקלים פתוחים עברו מחצית מנפח הטוקנים בשער. טוקנים הם יחידות העיבוד של הטקסט; ספירתם אינה שקולה למספר המשתמשים או לכמות המשימות שהושלמו בהצלחה.

גם הפער בין 56% מהנפח ל-14% מההוצאה אינו מוכיח שכל מעבר למודל פתוח יוזיל משימה מסוימת. מחיר, אורך תשובה, מספר ניסיונות וסוג העבודה משפיעים על החשבון. לא נכון להסיק משני האחוזים שיעור חיסכון מובטח ללקוח חדש.

ההחלטה השימושית היא לפי משימה

בבדיקת התאמה עסקית אפשר להתחיל בקבוצת משימות מוגדרת, למשל סיווג פניות או חילוץ שדות ממסמכים, ולהשוות תוצרים מול מדד איכות מוסכם. רק לאחר מכן מחשבים כמה עלתה תוצאה שהתקבלה, כולל ניסיונות שנכשלו וזמן תיקון אנושי.

ניתוב בין מודלים יכול להיות דרך לבצע חלוקה כזו: משימה אחת נשלחת למודל מסוים, ומשימה אחרת למודל בעל יכולות או מחיר שונים. הנתונים של Vercel אינם מוכיחים שזה הפתרון המתאים לכל חברה, אך הם נותנים סיבה לבדוק את ההנחה שכל הפעילות צריכה לעבור דרך אותו מודל.

פתיחת המשקלים אינה פותחת בהכרח הכול

המונח משקלים פתוחים מתייחס לזמינות פרמטרי המודל. אין להסיק ממנו לבדו שנתוני האימון פומביים, שהרישיון בלתי מוגבל או ששימוש מסחרי מותר בכל תנאי. לפני בחירה צריך לקרוא את הרישיון של המודל המסוים.

יש גם הבדל בין צריכת מודל דרך API לבין אירוח עצמי. באירוח עצמי נכנסים לחישוב משאבי מחשוב, תחזוקה ותפעול. עבור עסק ישראלי, בדיקה טובה תכלול גם דוגמאות בעברית מהעבודה האמיתית. מחיר לטוקן הוא נקודת התחלה להשוואה; העלות של תוצאה שימושית היא המדד שצריך לסיים איתו.