יו"ר נציבות הסחר הפדרלית בארה"ב, אנדרו פרגוסון, מתנגד לתיאור סוכני AI כגורמים עצמאיים שמשתחררים משליטה. לפי דיווח Reuters מ-25 בספטמבר, הוא הצביע על אחריותם של מי שנותנים לכלים הוראות ועל שימוש בסמכויות אכיפה קיימות. הדברים אינם חוק חדש או הכרעה באחריות לכל אירוע.
ההוראות וההרשאות חוזרות למרכז הדיון
בדיווח Reuters, הזמין גם ב-CNA, פרגוסון מתאר מקרים שבהם בדיקת יומני פעילות הראתה שהמערכות ביצעו הוראות שניתנו להן. הוא העלה גם את האפשרות להחיל על מפתחי AI סמכויות העוסקות באי-גילוי של פריצות מידע.
העמדה הוצגה בכנס Momentum AI באוסטין. אין להסיק ממנה שכל מפתח אחראי תמיד לכל פעולה, או שהשימוש בסוכן מעביר אוטומטית אחריות מצד אחד לאחר.
מה כדאי לתעד בעבודה עם סוכן
מבחינה תפעולית, הדיון מדגיש מדוע חשוב שאפשר יהיה לשחזר את סביבת הפעולה: מה הייתה המשימה, אילו הרשאות ניתנו, באיזה חשבון בוצעה הפעולה והיכן נדרש אישור אנושי. אלה שאלות לבדיקת תהליך, ולא רשימת חובות משפטיות שנקבעה בנאום.
למשל, עסק שנותן לסוכן להכין הזמנה צריך להחליט אם הסוכן רשאי גם לאשר תשלום. מערכת שמותר לה לחפש במסמכים אינה בהכרח צריכה לקבל הרשאה לשתף אותם מחוץ לארגון. ההבחנה בין הכנת פעולה לביצועה יכולה להפוך את הבקרה לברורה יותר לעובדים וללקוחות.
גם תיעוד לבדו אינו תשובה מלאה. צוות צריך לדעת מי מקבל התרעה כשמשהו משתבש, מי מוסמך לעצור את הסוכן ואיך בודקים את האירוע בלי למחוק את רצף הפעולות. אלה החלטות שאפשר לקבל עוד לפני שמופיעה תקלה.
המשמעות לחברות ישראליות
חברה ישראלית שמשרתת לקוחות בארה"ב יכולה לראות בדברים נושא לבחינה עם יועציה: כיצד מוצג השירות ללקוחות, מי שולט בהרשאות ואיך מטפלים באירועי מידע. תחולת הדין וחלוקת האחריות תלויות בנסיבות, ולא ניתן לקבוע אותן מהדברים בכנס בלבד.
הכיוון שהציג פרגוסון ברור יותר מהתשובה לכל מקרה עתידי. הוא מבקש לבחון את פעולות הכלי דרך ההחלטות האנושיות שסביבו; השאלות על המפתח, המפעיל והנפגע עדיין דורשות בירור פרטני.