סוכני AI צריכים פרוטוקול תקשורת, לא עוד שיחות ארוכות

סוכני בינה מלאכותית מתקשרים בפרוטוקול ארגוני חכם

סוכני AI הופכים במהירות משכבת הדגמה טכנולוגית למנגנון עבודה ארגוני. ארגונים כבר לא מסתפקים בצאטבוט שעונה לעובד, אלא בונים רשת של סוכנים שמנתחים פניות, מפיקים דוחות, פותחים משימות, בודקים קוד ומפעילים תהליכים עסקיים. הבעיה היא שרוב המערכות האלו עדיין מתקשרות כאילו הן בני אדם, במשפטים ארוכים, יקרים ולעיתים עמומים. בעולם שבו כל אסימון עולה כסף וכל שנייה משפיעה על חוויית לקוח, זו אינה בעיה אקדמית אלא מגבלה תפעולית.

סוכני AI צריכים ללמוד איך לדבר זה עם זה

חוקרי Microsoft Research הציגו לקראת ACL 2026 את מסגרת OPTiMACS, שמציעה גישה מעניינת: במקום להכריח סוכנים להעביר זה לזה פסקאות בשפה טבעית, המערכת לומדת איזה ייצוג מסר מתאים למשימה. לעיתים זה יכול להיות טקסט קצר, לעיתים מבנה נתונים, ולעיתים ייצוג פנימי תמציתי יותר. הרעיון המקצועי חשוב מאוד, משום ששפה טבעית מצוינת להסבר לבני אדם, אך היא אינה תמיד פרוטוקול טוב לתיאום בין מכונות.

מערכות מרובות סוכנים סובלות מתופעה מוכרת של ניפוח הקשר. סוכן אחד מסביר, סוכן שני מפרש, סוכן שלישי מסכם, ובכל שלב מתווספים אסימונים, אי דיוקים וסיכון להחלטה שגויה. כאשר תהליך כזה רץ מאות או אלפי פעמים ביום, העלות אינה רק עלות ענן. העלות האמיתית היא ירידה ביכולת הבקרה, קושי באיתור כשלים ופגיעה ביציבות התהליך.

כלכלת טוקנים היא שיקול ניהולי, לא רק טכני

ארגונים שמפתחים Agentic AI צריכים להתחיל לחשוב על תקשורת בין סוכנים כמו שחושבים על תכנון ארכיטקטורת תוכנה. מסר בין סוכנים צריך להיות קצר, עקבי, ניתן למדידה וניתן לתיעוד. אם סוכן שירות לקוחות מעביר לסוכן גבייה תיאור חופשי של שיחה, נקבל שונות גבוהה וקושי בבקרה. אם הוא מעביר שדות מוסכמים כמו רמת דחיפות, סוג בעיה, סיכון נטישה והמלצת פעולה, אפשר לנהל תהליך מהיר, אמין וזול יותר.

כאשר מלווים חברות בהקמת סוכנים, מתברר שוב ושוב שפרויקט AI טוב אינו מתחיל בבחירת מודל בלבד. הוא מתחיל בהבנת התהליך העסקי, נקודות ההחלטה, רמת הסיכון, מדדי ההצלחה והאדם שצריך להישאר בלולאה. אדם בלולאה הוא עיקרון קריטי, אך אם כל פעולה דורשת אישור ידני, לא יצרנו קפיצת מדרגה. המטרה היא לאפשר למנהל שפיקח בעבר על תהליך אחד לפקח על מאות תהליכים באמצעות חריגים, דוחות ובקרות חכמות.

ניהול סוכנים דורש תשתית, ידע ואחריות

הכיוון שמיקרוסופט מציגה מחזק עמדה ברורה: AI אינו עניין טכני בלבד. ארגון שרוצה להפעיל סוכנים ברצינות צריך פלטפורמה לניהול סוכנים, סטנדרטים לתקשורת, ניטור ביצועים, בדיקות אבטחת מידע ותיעוד שמובן גם לאנשים. מחלקות מערכות מידע יהפכו בהדרגה למחלקות משאבי אנוש של סוכני AI, עם אחריות על גיוס, הרשאות, מדידה, הדרכה והוצאה משימוש של סוכנים.

מנהלים צריכים להתחיל עכשיו במיפוי תהליכים שבהם יש שיחות ארוכות בין אנשים או מערכות, ולשאול אילו החלטות אפשר לייצג בצורה מובנית. כדאי למדוד עלות לאינטראקציה, זמן תגובה, שיעור חריגים ואיכות החלטה לפני ואחרי הכנסת סוכנים. הגל הבא של ההתייעלות לא יגיע מסוכן שמדבר יותר יפה, אלא מסוכן שמתקשר פחות, מדויק יותר, ומספק לאדם את ההסבר הנכון בזמן הנכון.

2 דק׳ קריאה

מודל AI מקומי על 25 גיגהבייט זיכרון מוכיח זמינות, לא כדאיות

הניסוי של קוליברי אינו מוכיח שמודל חזית יכול לרוץ בזול על מחשב ביתי. הוא מוכיח שאפשר להחליף מחסור בזיכרון בזמן המתנה, ולהעביר את העלות מחומרת האצה אל האחסון ומשך העיבוד. מודל GLM-5.2 כולל 744 מיליארד פרמטרים ומשקלו כ-1.5 טרהבייט, אך הוא הופעל עם 25 גיגהבייט זיכרון בלבד. ההישג ההנדסי אמיתי. הכדאיות העסקית עדיין רחוקה. ארכיטקטורת MoE הופכת את האחסון לזיכרון איטי במודל המבוסס על תערובת מומחים, ארכיטקטורת MoE, כל טוקן אינו עובר דרך כל הפרמטרים. נתב פנימי מדרג תתי-מודלים מתמחים ובוחר רק את המומחים...

2 דק׳ קריאה

זיכרון AI נוירוני לא יהרוג את RAG, הוא יפריד בין ידע למצב

הוויכוח על מותו של RAG מוקדם מדי, וגם מחמיץ את הנקודה. זיכרון AI נוירוני לא יחליף את שכבת הידע הארגונית, אלא בעיקר את הצורך לבנות מחדש מצב חישובי שכבר נוצר. ההבחנה הזאת קובעת אילו תשתיות יישארו, היכן תיחסך השהיה ואילו סיכונים חדשים ייכנסו לארכיטקטורה. מערכת RAG מפרקת מסמכים למקטעים, ממירה אותם לווקטורים, שולפת התאמות ומחזירה טקסט לחלון ההקשר. המודל נדרש אז לחשב מחדש ייצוג פנימי של מידע שכבר עובד קודם. התהליך מצוין לחיפוש ראיות, אך מסורבל כשסוכן צריך להמשיך פעולה שהחלה ברכיב אחר לפני שניות...

2 דק׳ קריאה

כימות דינמי ב-SageMaker מוזיל את המודל, לא את האחריות ההנדסית

כימות דינמי ב-SageMaker הוא קודם כל מבחן למשמעת ההנדסית של הארגון, ורק אחר כך תרגיל בחיסכון בענן. נתון של כ-80% פחות בעלות לשעה נראה כמו אישור מיידי לעבור למכונה קטנה, אבל עלות נמוכה של נקודת קצה אינה מבטיחה עלות נמוכה לבקשה תקינה. תבנית צ'אט שגויה, הקשר ארוך או התרחבות איטית יכולים למחוק את החיסכון בלי לשנות אפילו משקולת אחת. כימות דינמי חוסך זיכרון באמצעות אי שוויון מכוון מודל בן 8 מיליארד פרמטרים בדיוק של 16 ביט דורש כ-16 ג'יגה-בייט רק עבור המשקולות. בכימות אחיד כל השכבות נדחסות לאותה רמת...

צור קשר

בואו נדבר על הפרויקט הגדול הבא שלכם

השאירו פרטים ונחזור אליכם. שיחת היכרות קצרה עם הצוות של KO AI, כדי להבין את התהליך, את היעד ואת הדרך הנכונה להגיע אליו.

ערוץ פניה מועדף

נחזור אליכם תוך יום עסקים אחד.

בואו נדבר

השאירו פרטים, ונחזור אליכם תוך יום עסקים אחד.

ערוץ פניה מועדף

נחזור אליכם תוך יום עסקים אחד.