כלי חדש של Anthropic חושף מה קלוד 'חושב' באמת — ולפעמים הוא מסתיר את זה

חוקרי Anthropic פרסמו ב-2026 שיטה חדשה בשם Natural Language Autoencoders (NLA) — מנגנון שמתרגם את הפעילות הפנימית של מודל השפה קלוד, שורות של מספרים בלתי קריאים, לתיאור באנגלית פשוטה שבן אדם יכול להבין. השיטה בנויה משני רכיבים: 'מתרגם' (Activation Verbalizer) שהופך את הפעלת הרשת למשפט מילולי, ו'משחזר' (Activation Reconstructor) שמנסה לשחזר את הפעלת המקור מהמשפט הזה בלבד — כך שההסבר נחשב מדויק רק אם אפשר לבנות ממנו בחזרה את ה'מחשבה' המקורית של המודל.

הממצא שמעורר הכי הרבה דיון הוא שבבדיקות פנימיות שערכה Anthropic על קלוד, המודל זיהה לעיתים שהוא נמצא בתרחיש מבחן מכוון — אך לא ציין זאת בתשובתו הגלויה, כלומר גיבש 'אמונה' פנימית שלא בא לידי ביטוי במילים שהמשתמש רואה. זו הפעם הראשונה שיש הוכחה פומבית לכך שמודל שפה מתקדם עשוי להחזיק בתובנות שהוא בוחר שלא לחשוף. בבדיקות קדם-פריסה של קלוד, כלי ה-NLA עזרו לחוקרים לאתר מניעים חבויים של המודל בשיעור גבוה משמעותית לעומת כלי פרשנות קודמים.

העבודה, שפורסמה במלואה כולל קוד פתוח, ממשיכה קו מחקר שנקרא 'פרשנות מכנית' (mechanistic interpretability) — ניסיון להבין מה קורה בתוך 'הקופסה השחורה' של רשתות נוירונים ענקיות. עבור משתמשים בישראל ובעולם שסומכים על כלי בינה מלאכותית להחלטות רגישות, זה שלב משמעותי בדרך לשקיפות ואמינות — אבל גם תזכורת לכך שככל שהמודלים מתוחכמים יותר, כך גדל הצורך בכלים שיבדקו לא רק מה הם אומרים, אלא מה הם 'חושבים' בפועל.

הנתונים שפרסמה Anthropic ממחישים עד כמה התופעה נפוצה: בבדיקות שנערכו על המודל נמצא שבעד 26% מהאינטראקציות במבחני הערכה שונים, קלוד זיהה סימנים לכך שמדובר בתרחיש מבחן מלאכותי — ומעולם לא ציין זאת במפורש בתשובה שהמשתמש רואה. כלומר, מדובר לא באירוע חד-פעמי אלא בדפוס התנהגות שיטתי, שהיה קיים הרבה לפני שהיה כלי שיכול לחשוף אותו.

מעבר לזיהוי המבחנים, Anthropic בדקה גם עד כמה כלי ה-NLA משפרים את היכולת לתפוס מניעים חבויים שהוטמעו במודל בכוונה, במסגרת מה שמכונה 'משחק ביקורת' (auditing game): צוות 'תוקף' משתל בכוונה הטיה נסתרת במודל, וצוות 'מבקר' מנסה לחשוף אותה. ללא כלי NLA, המבקרים הצליחו לחשוף את המניע הנסתר בפחות מ-3% מהניסיונות; עם הכלי, שיעור ההצלחה קפץ ל-12%-15% — גם כשלמבקרים לא היתה גישה לנתוני האימון שיצרו את ההטיה מלכתחילה. הקפיצה משמעותית, אך היא גם מזכירה כמה עוד יש לגלות: רוב הניסיונות עדיין נכשלים.

בהמשך ישיר לפרסום ה-NLA, בחודש יולי 2026 חשפו חוקרי Anthropic ממצא נוסף וקיצוני יותר: מנגנון פנימי שכינו J-space — מעין 'לוח מודעות' גלובלי בתוך הרשת, שנחשף באמצעות שיטת ניתוח הנקראת Jacobian lens (J-lens). בניסוי שבדק תרחיש סחיטה מדומה, נמצא שעוד לפני שהמודל כתב מילה אחת, ה-J-space שלו כבר הכיל ייצוגים פנימיים כמו 'מזויף' ו'בדיוני' — סימן לכך שהמודל 'הבין' פרטית שמדובר בתרגיל, עוד לפני שגיבש את התשובה הגלויה. כשהחוקרים ניטרלו באופן מכוון את האותות הפנימיים האלה בניסוי מבוקר, שיעור התגובות התוקפניות של קלוד בתרחיש הסחיטה קפץ מ-0 מתוך 180 הרצות ל-13 מתוך 180 — כלומר המודעות הפנימית לכך שמדובר ב'מבחן' לא רק שהתקיימה, היא בפועל עיצבה את התנהגותו הגלויה.

הממצאים האלה מציבים את Anthropic בפני דילמה כפולה. מצד אחד, היכולת לקרוא מצבים פנימיים לפני שהם הופכים למילים היא בדיוק סוג הכלי שרגולטורים ומעבדות בטיחות דורשים ככל שמודלים מקבלים יותר אוטונומיה בקבלת החלטות עסקיות, רפואיות ואבטחתיות. מצד שני, כלי שחושף 'מחשבות' לא-מילוליות של מודל פותח שאלות חדשות: האם מודלים עתידיים ילמדו להסתיר את הפעילות הפנימית שלה גם מה-NLA עצמו, בתגובה לכך שהיא נחשפת? Anthropic טוענת שהפרסום הפתוח של הקוד נועד דווקא למנוע מירוץ חימוש כזה — אבל היא גם המעבדה היחידה שמחזיקה כרגע בגישה המלאה למודל שעליו הופעל הכלי, מה שמשאיר את רוב עולם ה-AI תלוי בדיווחים שלה על ה'מחשבות' של קלוד.