פחות נתונים לחיקוי, לפי החברה
Anthropic הודיעה ב-12 באוקטובר כי ההגנות החדשות שלה נגד זיקוק לא מורשה של Claude צמצמו את כמות הנתונים שנאספה בידי מפעילי מתקפות בכ-90% עד 99%. החברה מתארת זאת כראיות ראשוניות, לא כהבטחה שכל ניסיון העתקה ייכשל. במוקד נמצאים נתוני החשיבה של המודל, חומר שעשוי לסייע לאימון מודל אחר לחקות את יכולותיו, ולא רק התשובה הסופית שהמשתמש רואה.
זיקוק הוא דרך להעביר יכולות ממודל למודל באמצעות תוצריו. עצם השיטה אינה זהה למתקפה: השאלה כוללת גם הרשאה, תנאי שימוש ואופן השגת הגישה. Anthropic עוסקת כאן במסעות חילוץ שיטתיים ולא מורשים. עבור קורא שאינו מפתח, ההבחנה פשוטה: שימוש בתשובה כדי לבצע עבודה ושימוש בשירות כדי להעתיק את יכולותיו בקנה מידה תעשייתי אינם בהכרח אותה פעילות או כפופים לאותם תנאים.
הפער בין תשובה לבין נתוני חשיבה מסביר את מוקד ההגנה. בתיעוד Claude, הטקסט המוצג בבלוק חשיבה הוא סיכום, ולא תמליל פנימי מלא. לכן אין להניח ששדה שנראה כמו הסבר חושף את כל מה שהמודל עשה לפני שענה. גם כאשר רוצים להבין תשובה, אפשר לבקש הסבר קצר, ראיות או פירוט פעולות, בלי לדרוש שחזור של תהליך פנימי מוגן במלואו.
Anthropic מתארת שילוב של הגבלת העברת נתוני חשיבה, סיווג ניסיונות חילוץ והגבלות על חשבונות שחוזרים על ניסיונות כאלה. לדבריה, שיעור הזיהוי השגוי של המסווגים נמוך מ-0.1%. גם הנתון הזה הוא מדידה של החברה. הוא אינו אומר שאפס בקשות תמימות ייחסמו, ואינו מבטיח שליישום מסוים, בעל סוגי משימות או ניסוחים שונים, יהיה בדיוק אותו שיעור שגיאות בפועל.
שינוי בהיסטוריית השיחה עלול לשנות את התוצאה
אחד המרכיבים הוא preserved thinking, מנגנון שכבר קיים בחלק מהמודלים והחשבונות. לפי מרכז העזרה של Claude, הוא חל על חשבונות API שנוצרו מ-31 באוגוסט 2026, בשימוש ב-Claude Fable 5.1, Claude Opus 5.5, Claude Sonnet 5.5 ו-Claude Haiku 5.5. הפרסום הנוכחי מסביר את ההגנות; הוא אינו הכרזה על השקת המודלים האלה מחדש או על שינוי גורף לכל חשבון ותיק באותו יום.
המנגנון בודק שבלוק חשיבה מוחזר יחד עם ההקשר שיצר אותו: הודעות קודמות, הנחיות מערכת וכלים. שינוי ההקשר הזה עלול להחזיר שגיאה. במצב הלא מחמיר המתועד, הבקשה יכולה להמשיך לאחר הסרת בלוקי החשיבה המושפעים. המשמעות היא הבדל חשוב בין שיחה שנמשכת עם אותו חומר קודם לבין שיחה שנמשכת בלי חלק ממנו, גם אם הטקסט הגלוי למשתמש נראה דומה מאוד.
לכן אינטגרציה שמקצרת היסטוריה, מחליפה כלים באמצע שיחה או מוסיפה הנחיות למקטעים קודמים עשויה להזדקק להתאמה. Anthropic מתעדת אפשרויות לדחיסת הקשר ולשינוי כלים בלי לערוך את העבר באותו אופן. אין להסיק שכל אפשרות זמינה בכל פלטפורמה ובכל מצב: צריך להתאים את המימוש לתיעוד של סביבת ההפעלה בפועל, במקום להעתיק הנחה מממשק אחד לאחר ולצפות להתנהגות זהה.
משתמשי Claude.ai, Claude Code ו-Claude Cowork אינם נדרשים לנהל בעצמם את בלוקי החשיבה, לפי מרכז העזרה. העבודה נוגעת בעיקר למי שבונה ומתחזק שכבת אינטגרציה משלו. עבור צוות כזה, בדיקת שאלה בודדת אינה מספיקה: כדאי לבדוק רצף של שיחה, שימוש בכלים וקיצור הקשר, משום שהבעיה עשויה להופיע רק אחרי שינוי שנעשה בין השלבים ולא בתחילת הבקשה הראשונה.
סירוב אינו תמיד תקלה, וגם אינו תמיד חינם
בתיעוד ה-API, סירוב של מסווג יכול לחזור כתשובה תקינה מבחינת HTTP, עם סיבת עצירה שמציינת סירוב. זה שונה משגיאת התאמה בהקשר של בלוק חשיבה. עבור אפליקציה, ההבדל קובע מה להציג למשתמש ואיך לטפל במקרה. אין לפרש כל סירוב כהוכחה לשימוש פסול, ובוודאי לא להניח שכל אירוע כזה הוא כשל רשת שאפשר לפתור בשליחה חוזרת אוטומטית ללא הבחנה.
יש גם משמעות לתקציב: Anthropic אומרת שהחזירה ב-24 בספטמבר חיוב על בקשות שנחסמו לפני יצירת תשובה בקטגוריות מסוימות, ובהן חילוץ חשיבה. זהו הסבר על מדיניות קיימת, לא מחירון חדש שהושק ב-12 באוקטובר. התיעוד מבחין בין קטגוריות ובין חסימה לפני פלט לבין סירוב לאחר פלט חלקי, ולכן אין בסיס לכלל הפשוט שכל בקשה שנדחתה היא חינם או שכל סירוב מחויב באותו אופן.
מבחינה תפעולית, כדאי למדוד בנפרד תשובות מוצלחות, סירובים ושגיאות שילוב, ולבדוק את השימוש המדווח לפני שקובעים מדיניות ניסיונות חוזרים. בקשה לגיטימית שנתקעת שוב ושוב מחייבת אבחון, לא רק הגדלת מספר הניסיונות. אם פונים לתמיכה, מזהה הבקשה יכול לסייע לבדיקה. אין צורך להכניס לממשק המשתמש פרטי מערכת מיותרים כדי לתת הסבר ברור על מה שהצליח ומה דורש טיפול נוסף.
גם המשמעות של פחות מ-0.1% תלויה בשאלה שנשאלת. שיעור שגיאות כולל אינו מבטיח חוויה זהה בכל שפה ובכל תחום. עבור צוות מוצר, הדרך להעריך את ההשפעה היא לבחון בקשות מייצגות של המשתמשים שלו ולבדוק אם הם עדיין מגיעים לתוצאה הרצויה. זו המלצת בדיקה מעשית, ולא טענה שהחברה הוכיחה איכות אחידה בכל יישום או בכל אוכלוסיית משתמשים אפשרית.
הצלחה ראשונית אינה סוף המאבק
Anthropic עצמה אומרת שאינה יודעת כמה זמן יישמרו השיפורים, ומצפה שמפעילי מתקפות ימשיכו לחפש דרכי עקיפה. היא גם מציינת שטרם ראתה ניסיון מתוחכם ומתמשך במיוחד להתגבר על מכלול ההגנות החדש. לכן יש לקרוא את שיעור הירידה כתוצאה שהחברה מעריכה במערכת שלה, ולא כהוכחה עצמאית שהבעיה נפתרה לצמיתות או שכל מודל אחר מוגן באותה רמה מפני ניסיונות דומים בעתיד.
המקרה מדגיש הבדל בין הגנה על יכולות המודל לבין הבטחה כללית לבטיחות המשתמש. הקטנת חילוץ נתוני חשיבה אינה מוכיחה שכל תשובה נכונה, שכל סוכן יפעל כמתוכנן או שכל מידע עסקי מנוהל בהתאם לדרישות הארגון. כל אחת מהשאלות האלה דורשת בדיקה משלה. ערבוב שלהן תחת המילה אבטחה עלול להוביל לביטחון גדול יותר מזה שהנתונים המסוימים באמת מאפשרים ולבחירה לא מדויקת של בקרות.
גם בישראל, ההשלכה הישירה היא על תכנון אינטגרציות, ולא הודעה על זמינות חדשה או התחייבות חדשה לאיכות בעברית. צוות שעובד בעברית צריך לבדוק את הבקשות ואת רצפי העבודה שלו באותה שפה. אין צורך לשנות תהליך עסקי רק מפני שכותרת מציגה אחוז גבוה; יש צורך להבין אם המנגנון חל על החשבון והמודל שבהם משתמשים, ואיך הוא משתלב במערכת שכבר פועלת בשירות המשתמשים.
החדשות הן שהגנה מפני העתקת יכולות הופכת לחלק מוחשי יותר מהאופן שבו שיחת AI נשמרת, נבדקת ומחויבת. למשתמש רגיל זה עשוי להישאר מאחורי הקלעים; למפתח זה כבר חלק מהתנהגות המוצר שיש לקחת בחשבון. המדד החשוב בסוף אינו רק כמה נתונים נחסמו אצל התוקפים, אלא גם האם משתמש מורשה עדיין יכול להשלים את עבודתו בצורה עקבית, מובנת ובעלות שניתן לתכנן מראש.