סוכני AI רווחיים מתחילים בתהליך דטרמיניסטי נכון

סוכני בינה מלאכותית משתלבים בתהליכים עסקיים מבוקרים

סוכני AI עברו בשנתיים האחרונות משלב ההדגמות המרשימות לשלב הרבה פחות סלחני: שלב הרווחיות התפעולית. ארגון יכול לבנות סוכן שיודע לקרוא מסמכים, להפעיל מערכות, לנסח תשובות ולסגור משימות, ועדיין להפסיד כסף בכל פעולה. הבעיה אינה רק מחיר המודל, אלא הדרך שבה הסוכן חושב, בודק, חוזר, מתקן ומבזבז טוקנים על החלטות שכבר התקבלו בעבר.

סוכני AI וכלכלת טוקנים בארגון

מאמר מקצועי שעסק בשריפת טוקנים במערכות Agentic AI מתאר היטב את נקודת המפנה: לא מספיק למדוד שיעור הצלחה במשימה, צריך למדוד ערך עסקי מול צריכת טוקנים. סוכן שמבצע משימה בעלות של כמה דולרים כאשר הערך העסקי שלה נמוך יותר אינו מוצר, אלא אב טיפוס יקר. במערכות ייצור, בעיקר בשירות לקוחות, פיננסים, בריאות ותפעול, ההבדל בין מסלול פעולה פתוח לבין מסלול מבוקר יכול להיות פער של עשרות אחוזים בעלות ההפעלה.

התגובה האינסטינקטיבית היא להגביל את הסוכן בכללים קשיחים, אך זו טעות נפוצה. סוכן מוגבל מדי מפסיק לזהות חריגים. פנייה על חידוש מרשם יכולה להפוך לאירוע רפואי דחוף, ובקשת מידע על חשבונית יכולה לחשוף הונאה. לכן חופש פעולה הוא לא מותרות, אלא רכיב איכות. השאלה הנכונה היא לא האם לתת לסוכן לחשוב, אלא מתי לאפשר לו לחשוב לעומק ומתי לחייב אותו לבצע תהליך ידוע וזול.

תהליך דטרמיניסטי עם סוכן מוגבל משפר שליטה

הגישה היישומית הנכונה היא לא לבחור בין סוכן עצמאי לבין אוטומציה קשיחה. ברוב הארגונים עדיף לשלב סוכן בתוך תהליך דטרמיניסטי, כאשר הסוכן מקבל תחומי אחריות מוגבלים וברורים. לדוגמה, תהליך קליטת לקוח יכול להישאר מסלול עבודה מובנה במערכת הארגונית, בעוד הסוכן אחראי רק לסיווג מסמכים, חילוץ חריגים, ניסוח שאלות השלמה והמלצה על נתיב טיפול. כך שומרים על שקיפות, הרשאות, תיעוד ובקרת סיכונים, ועדיין מרוויחים שיקול דעת במקום שבו הוא באמת נחוץ.

מנגנונים כמו Early Commitment ושחזור דטרמיניסטי נותנים למסגרת הזו בסיס הנדסי. בשלב הראשון הסוכן מסווג את הבעיה, מזהה מגבלות, בוחר כלים ובונה מסלול. לאחר שמסלול מוכח כיציב, המערכת מקליטה אותו כמתכון ביצוע. בהרצות חוזרות אין סיבה לשלם שוב על חקירה מלאה של מודל שפה גדול. בהרבה תהליכים חוזרים, כמו דוחות ציות, סיכומי שירות, בדיקות זכאות או פתיחת קריאות, ניתן להעביר חלק גדול מהעבודה להרצה חצי דטרמיניסטית ולצמצם משמעותית את עלות הטוקנים.

ניהול סוכנים דורש ידע עסקי ולא רק טכנולוגיה

כאשר מלווים ארגונים בהטמעת AI, רואים שוב ושוב שהאתגר המרכזי אינו בחירת מודל בלבד. חברת Anthropic, מודלי OpenAI, כלי Copilot Studio או פלטפורמות כמו N8N יכולים להיות מצוינים, אבל בלי עיצוב תהליך, מדדי עלות, מדדי חריגה ואדם בלולאה, הסוכן נשאר מסוכן או יקר מדי. אדם בלולאה אינו אמור לאשר כל פעולה. התכנון הנכון הוא להפוך מומחה אנושי ממבצע של תהליך אחד למפקח על מאות תהליכים, עם התראות רק במקרי קצה.

ארגון שרוצה להטמיע סוכנים באופן רציני צריך למדוד ארבעה פרמטרים בכל תהליך: עלות טוקנים לפעולה, ערך עסקי לפעולה, שיעור חריגים ואיכות תוצאה לאחר בקרה. רק לאחר מכן נכון להחליט איפה נדרש סוכן חופשי, איפה מספיקה אוטומציה רגילה, ואיפה השילוב ביניהם הוא הפתרון המדויק. סוכני AI לא יחליפו תכנון תפעולי עמוק. הם יתגמלו ארגונים שיש להם ידע מקצועי, יכולת הנדסית וניהול תהליכים בוגר.

2 דק׳ קריאה

מודל AI מקומי על 25 גיגהבייט זיכרון מוכיח זמינות, לא כדאיות

הניסוי של קוליברי אינו מוכיח שמודל חזית יכול לרוץ בזול על מחשב ביתי. הוא מוכיח שאפשר להחליף מחסור בזיכרון בזמן המתנה, ולהעביר את העלות מחומרת האצה אל האחסון ומשך העיבוד. מודל GLM-5.2 כולל 744 מיליארד פרמטרים ומשקלו כ-1.5 טרהבייט, אך הוא הופעל עם 25 גיגהבייט זיכרון בלבד. ההישג ההנדסי אמיתי. הכדאיות העסקית עדיין רחוקה. ארכיטקטורת MoE הופכת את האחסון לזיכרון איטי במודל המבוסס על תערובת מומחים, ארכיטקטורת MoE, כל טוקן אינו עובר דרך כל הפרמטרים. נתב פנימי מדרג תתי-מודלים מתמחים ובוחר רק את המומחים...

2 דק׳ קריאה

זיכרון AI נוירוני לא יהרוג את RAG, הוא יפריד בין ידע למצב

הוויכוח על מותו של RAG מוקדם מדי, וגם מחמיץ את הנקודה. זיכרון AI נוירוני לא יחליף את שכבת הידע הארגונית, אלא בעיקר את הצורך לבנות מחדש מצב חישובי שכבר נוצר. ההבחנה הזאת קובעת אילו תשתיות יישארו, היכן תיחסך השהיה ואילו סיכונים חדשים ייכנסו לארכיטקטורה. מערכת RAG מפרקת מסמכים למקטעים, ממירה אותם לווקטורים, שולפת התאמות ומחזירה טקסט לחלון ההקשר. המודל נדרש אז לחשב מחדש ייצוג פנימי של מידע שכבר עובד קודם. התהליך מצוין לחיפוש ראיות, אך מסורבל כשסוכן צריך להמשיך פעולה שהחלה ברכיב אחר לפני שניות...

2 דק׳ קריאה

כימות דינמי ב-SageMaker מוזיל את המודל, לא את האחריות ההנדסית

כימות דינמי ב-SageMaker הוא קודם כל מבחן למשמעת ההנדסית של הארגון, ורק אחר כך תרגיל בחיסכון בענן. נתון של כ-80% פחות בעלות לשעה נראה כמו אישור מיידי לעבור למכונה קטנה, אבל עלות נמוכה של נקודת קצה אינה מבטיחה עלות נמוכה לבקשה תקינה. תבנית צ'אט שגויה, הקשר ארוך או התרחבות איטית יכולים למחוק את החיסכון בלי לשנות אפילו משקולת אחת. כימות דינמי חוסך זיכרון באמצעות אי שוויון מכוון מודל בן 8 מיליארד פרמטרים בדיוק של 16 ביט דורש כ-16 ג'יגה-בייט רק עבור המשקולות. בכימות אחיד כל השכבות נדחסות לאותה רמת...

צור קשר

בואו נדבר על הפרויקט הגדול הבא שלכם

השאירו פרטים ונחזור אליכם. שיחת היכרות קצרה עם הצוות של KO AI, כדי להבין את התהליך, את היעד ואת הדרך הנכונה להגיע אליו.

ערוץ פניה מועדף

נחזור אליכם תוך יום עסקים אחד.

בואו נדבר

השאירו פרטים, ונחזור אליכם תוך יום עסקים אחד.

ערוץ פניה מועדף

נחזור אליכם תוך יום עסקים אחד.