מומחים אמרו שזה בלתי אפשרי בזמן אמת - הם טעו

מאמר חדש שובר את המוסכמה שהיה נהוג לחשוב שאי אפשר להריץ בזמן אמת. הסרטון מסביר איך החוקרים פיצחו את הבעיה ולמה זה משנה את המשחק.

הפריצה הזו אינה מקרה בודד — היא חלק ממגמה רחבה יותר שמאפיינת את 2026: המעבר ממודלים שדורשים שניות או דקות של עיבוד לכיוון הרצה מיידית, כמעט ללא השהיה מורגשת. עד לאחרונה נהוג היה להניח שהריצה בזמן אמת דורשת קיצור דרסטי באיכות הפלט, אבל שורת פיתוחים עדכניים מראה שאפשר לשמור על רמת דיוק גבוהה תוך צמצום זמן העיבוד פי כמה. כך למשל, טכניקת "קשב דליל מודע-הקשר" (CASA) שפורסמה החודש מצליחה לדחוס את חלון ההקשר כמעט בלי לאבד מידע, תוך הפחתת נפח החישוב הנדרש פי עשרה לעומת שיטות הקשב הסטנדרטיות.

גם בתחום ייצור הווידאו הגנרטיבי ניכר קפיצת מדרגה דומה: מודלים בקוד פתוח כמו HunyuanVideo 1.5 מצליחים כיום לייצר קליפים באורך של עד 20 שניות, כולל פס קול מסונכרן ופיזיקה סבירה, תוך זמן רינדור של כ-75 שניות בלבד על כרטיס מסך יחיד מסוג RTX 4090 — משימה שעד לפני שנה-שנתיים דרשה חוות שרתים שלמות. הפער בין מה שדרש בעבר תשתית ענן יקרה לבין מה שרץ כיום על חומרת צרכן בודדת הוא בדיוק סוג הפער שגרם למומחים להכריז על משימות מסוימות כבלתי אפשריות בזמן אמת.

מגמה נוספת שתומכת בממצאי הסרטון היא המעבר ההדרגתי של תעשיית הבינה המלאכותית מהתמקדות באימון מודלים ענקיים לעבר אופטימיזציה של ההסקה (inference) עצמה. שיטות כימות חדשות מאפשרות היום דיוק הקרוב ל-8 סיביות במהירות של 4 סיביות, מה שהופך אירוח עצמאי של מודלים גדולים לזול יותר מתשלום לפי טוקן על שירותי API חיצוניים. המשמעות המעשית היא שיותר ויותר יישומים שדרשו בעבר חיבור לענן יוכלו לרוץ ישירות על מכשיר הקצה, בזמן אמת אמיתי וללא תלות ברוחב פס.

דוגמה מוחשית לכך שהמחסום הפסיכולוגי של "בלתי אפשרי בזמן אמת" קורס גם מחוץ לעולם הטקסט והווידאו אפשר למצוא בפרויקט הרובוטיקה של Sony AI, שהציג לאחרונה מערכת אוטונומית המתחרה בשחקני טניס שולחן ברמה מקצועית — הישג שדורש תפיסה, קבלת החלטות וביצוע מוטורי בשברירי שנייה בסביבה פיזית משתנה. ההצלחות המקבילות בתחומים שונים כל כך מרמזות שהפריצה שמתוארת בסרטון אינה תרגיל מעבדה חד-פעמי, אלא ביטוי נוסף לשינוי מבני רחב יותר באופן שבו מערכות בינה מלאכותית מתמודדות עם אילוצי זמן.