לפני שנותנים לסוכן AI גישה למערכות העסק, כתבו מה בדיוק הוא אמור לעשות, באיזה מידע הוא צריך להשתמש ואילו פעולות מחייבות אישור אנושי. רק אחר כך בחנו את מסך ההרשאות. הכפתור "חיבור" אינו תוכנית עבודה, ורשימת הרשאות שהספק מציע אינה בהכרח הרשימה שהמשימה שלכם צריכה.
המדריך הזה מתחיל אחרי בחירת האוטומציה: כאשר עומדים לחבר סוכן לדואר, לקבצים, למערכת לקוחות או לכלי עבודה אחר. המטרה אינה לחסום את השימוש, אלא לתת לו גבולות שאפשר להבין ולבדוק. גם עסק קטן יכול להגדיר משימה צרה, בעל אחריות ודרך ברורה לעצור פעולה שלא התכוון לבצע.
1. תרגמו את המשימה להרשאות נדרשות
הפרידו בין קריאה, יצירה, עריכה, שליחה ומחיקה. סוכן שמסכם מסמכים אינו זקוק מעצם המשימה ליכולת למחוק אותם. סוכן שמכין טיוטת הודעה אינו חייב גם לשלוח אותה. בדקו אם אפשר להגביל את החיבור לתיקייה, לפרויקט או לקבוצת רשומות, במקום לתת גישה לכל החשבון רק מפני שזו האפשרות הנוחה במסך.
רשמו ליד כל הרשאה מדוע היא דרושה. אם אין הסבר ברור, התחילו בלעדיה ובדקו מה באמת נחסם. כאשר הכלי דורש הרשאה רחבה כדי לבצע משימה צרה, בקשו מהספק הסבר וחלופה. אל תעקפו את הבדיקה באמצעות חשבון של מנהל מערכת. ההחלטה צריכה לשקף את העבודה הנדרשת ואת היקף הנזק האפשרי מטעות.
- איזו פעולה עסקית מוגדרת הסוכן מבצע?
- אילו נתונים הוא צריך לקרוא, ואילו הוא צריך לשנות?
- האם אפשר להגביל את הגישה למשאב מסוים?
- מי מאשר הרחבה של ההרשאות, ולכמה זמן?
2. בדקו מי עומד מאחורי הכלי או ה-Skill
שם מוכר, עיצוב יפה או הופעה בקטלוג אינם מסבירים מה נבדק. חפשו זהות של מפרסם, תיאור של היכולת, רשימת ההרשאות והסבר על הבדיקה שעבר הרכיב. אם מוצגת חותמת אישור, בררו מי העניק אותה, לאיזו גרסה ומה היה היקף הבדיקה. "נבדק" יכול לתאר דברים שונים, ולא כדאי להשלים את המשמעות לבד.
שאלו גם מה קורה לאחר עדכון. בדיקה של גרסה קודמת אינה בהכרח בדיקה של הרכיב הנוכחי. אם אין מידע על בדיקה, תארו את המצב במדויק: לא ידוע לכם שנעשתה בדיקה. אין פירוש הדבר שהרכיב זדוני, אבל זו סיבה להגביל את הניסוי ולא לתת לו מיד מידע רגיש או הרשאות פעולה רחבות.
- מי מפרסם ומתחזק את הרכיב?
- מה הוא יכול לקרוא, להעביר או לשנות?
- מי בדק אותו, מתי ובאיזו גרסה?
- איך מקבלים הודעה על שינוי, ומי מאשר את המשך השימוש?
3. קבעו מתי הסוכן חייב לעצור לאישור
הגדירו מראש פעולות שאינן מתבצעות אוטומטית: שליחה לאדם אחר, שינוי הרשאות, מחיקה או התחייבות כספית, לפי הצורך של העסק. מסך אישור טוב צריך להציג פעולה קונקרטית שאפשר לבדוק, ולא רק שאלה כללית אם "להמשיך". חשוב לדעת מה יישלח, למי, מה ישתנה ומה היקף הפעולה לפני שמאשרים אותה.
אל תסתפקו בהנחיה כתובה אם המערכת מאפשרת מגבלה טכנית מתאימה. בדקו בניסוי שהסוכן אכן נעצר כאשר הוא מגיע לגבול. אם הוא אמור להכין טיוטה בלבד, וודאו שלא התרחשה שליחה. האחריות לבדיקה צריכה להיות של אדם מוגדר, כדי שבקשת אישור לא תישאר אצל מי שאינו מכיר את התהליך העסקי.
4. בדקו מה "אפשר לבטל" באמת אומר
אפשרות ביטול יכולה להחזיר שדה לערכו הקודם, אך אינה בהכרח מבטלת כל השלכה של הפעולה. הודעה שכבר נקראה אינה חוזרת להיות לא נקראת אצל הנמען רק משום שנמחקה מהמערכת שלכם. מידע שהועבר החוצה אינו בהכרח נמחק מכל מקום. לכן שאלו מה בדיוק משוחזר, באילו תנאים ובאיזה חלון זמן.
נסו את הביטול על נתוני בדיקה לפני העבודה האמיתית. שמרו מצב התחלתי והשוו אותו למצב לאחר השחזור. בדקו גם השפעות נלוות, למשל הודעה שנשלחה או פעולה במערכת אחרת. אם אין דרך אמינה להשיב את המצב, הפעולה צריכה לקבל גבולות ואישור שמתאימים לכך. המילה "הפיך" אינה תחליף לתרגול שחזור.
5. הגדירו ניתוק, תיעוד ובעל אחריות
לפני ההפעלה, מצאו את הדרך לבטל את הרשאת החיבור ולעצור משימות פעילות. בדקו אם ניתוק הסוכן גם מבטל את הגישה של הכלי המחובר, ומה קורה למשימות שכבר התחילו. אל תניחו שכפתור אחד עושה את כל הפעולות. כתבו למי פונים ומה מבצעים אם התוצאה שונה מהמצופה.
בקשו תיעוד שמאפשר להבין איזו פעולה בוצעה, באיזה משאב ומתי, בלי לשמור מידע רגיש שאין בו צורך. התחילו במשימה מוגבלת ובנתוני בדיקה, והרחיבו רק אחרי שמבינים את התוצאות. בחרו אדם שאחראי לעדכן את ההרשאות כשהתפקיד, הכלי או צורכי העסק משתנים. חיבור שנשאר פעיל אחרי שהמשימה הסתיימה דורש בחינה מחדש.
למה נוצר תחום נפרד של אבטחת סוכנים
ב-2026 השקיעו קרנות הון סיכון עשרות מיליוני דולר בחברות המתמקדות באבטחת סוכני AI. הקטגוריה מתייחסת גם לכלים, לתוספים ולמידע שסוכן פוגש במהלך העבודה, ולא רק למודל שמייצר תשובה. זו סיבה לשאול שאלות ממוקדות על החיבור, בלי להניח שכל עסק זקוק מיד למוצר אבטחה חדש או שכל תוסף הוא איום.
לפני החיבור הסופי, ודאו שיש תשובה קצרה לחמש שאלות: מה המשימה, מה ההרשאה, מי בדק את הרכיב, מה אפשר לשחזר ואיך עוצרים. אם תשובה חסרה, אפשר לצמצם את הניסוי עד שתתברר. כך ההרשאות גדלות יחד עם הצורך וההבנה, ולא מהר יותר מהם.