גישה למודלי AI עולה כסף, ויש תוקפים שמעדיפים שמישהו אחר ישלם. דיווח של Financial Times מ-26 בספטמבר עוסק בגניבת חשבונות ושרתים לצורך פעילות AI. את הבסיס הטכני לתופעה מתאר מחקר מוקדם יותר של צוות מודיעין האיומים של Google: גניבת פרטי גישה וניצול תשתיות של ארגונים להפעלת עומסי מחשוב ללא אישור.
התופעה מכונה לעיתים LLM-jacking. היא אינה מסתכמת בהשתלטות על שיחה בצ׳אטבוט: מפתח API או הרשאת ענן עלולים לאפשר שימוש במכסה בתשלום, ולעיתים גם במשאבי מחשוב שהארגון כלל לא התכוון להפעיל עבור אותו גורם.
החשבון הוא רק אחת מדרכי הכניסה
בדוח Google, שפורסם מוקדם יותר בספטמבר, מתוארים ביקוש לפרטי גישה לשירותי AI וניסיונות לגנוב קובצי תצורה של כלי פיתוח. קבצים כאלה עשויים להכיל מפתחות או כתובות שירות שבהם משתמשים עוזרי קוד.
לפי החוקרים, התוקפים אינם מחפשים רק את סיסמת המשתמש בדפדפן. הם מתעניינים גם באופן שבו כלי העבודה מתחבר למודל, מאיזה חשבון הוא מחויב ואילו הרשאות ניתנו לו.
חשוב להבחין בין שני מועדי הפרסום: כתבת Financial Times היא הדיווח החדש; המחקר של Google הוא מקור הרקע לתיאור הטכני. אין להציג את ממצאי המחקר הישן כאילו כולם נחשפו לראשונה בסוף השבוע.
שימוש לא מורשה יכול להיראות כמו עבודה רגילה
מבחינת בעל החשבון, הסימן הראשון עשוי להיות מכסה שנגמרה, חיוב חריג או פעילות שלא יזם. עצם קיומו של חיוב כזה אינו מוכיח פריצה, אבל הוא מצדיק בדיקה של היסטוריית השימוש ושל פרטי הגישה הפעילים.
מפתח API תקף מאפשר לתוכנה להזדהות מול שירות. אם הוא נחשף, החלפת סיסמת הכניסה לבדה אינה בהכרח מבטלת אותו. צריך לבדוק את המפתח עצמו ואת ההרשאות המשויכות אליו.
מה כדאי לבדוק בארגון
מומלץ להפריד מפתחות בין מערכות, לתת לכל אחד רק את ההרשאות הדרושות, ולהגדיר התראות שימוש ותקציב במקום שבו השירות מאפשר זאת. מפתח שנחשף צריך לבטל ולהחליף, ולא רק להסיר מהמסמך שבו הופיע.
את הבדיקה כדאי להרחיב גם למאגרי קוד ולסביבות פיתוח. כשה-AI הופך לחלק מכלי העבודה, פרטי הגישה אליו הופכים לנכס שצריך לנהל כמו כל סוד ארגוני אחר. ההגנה מתחילה בזיהוי מי יכול להשתמש במשאב, ולא רק במי רשאי לפתוח את ממשק הצ׳אט.