סוכנים חכמים בארגון: מה שיטת Netomi מלמדת על הטמעת בינה מלאכותית בקנה מידה גדול

חברת OpenAI פרסמה היום סקירה שמדגישה איך Netomi בונה ומתזמרת מערכות סוכנים חכמים בארגונים גדולים. הפלטפורמה משרתת לקוחות Fortune 500 כמו יונייטד איירליינס ודראפטקינגס, ומיישמת שילוב פרקטי בין מודלים מהירים למודלים המתמחים בתכנון רב שלבי. השאלה הארגונית החשובה אינה האם סוכנים יכולים לדבר, אלא האם סוכנים יכולים לבצע תהליכים אמיתיים באופן אמין, מהיר ומבוקר.

סוכנים חכמים בארגון: שלוש יכולות ליבה שמפרידות ניסוי מעבודה בייצור

חברות רבות משקיעות בצוותי חדשנות שמדגימים יכולות מרשימות, אך נתקעות כשהמערכת פוגשת מורכבות תפעולית, עומסים ושיקולי רגולציה. גישת Netomi מציעה מתווה שמכוון מראש לשלושה צווארי בקבוק עסקיים: מורכבות בין מערכות, יעד זמן תגובה, וממשל בזמן אמת. תכנון שמטפל בשלושתם יחד מאפשר מעבר מפתרון עוזר דיגיטלי למנוע תהליך שמבצע פעולות קצה לקצה.

חברת Netomi מתארת ליבת תזמור נשלטת שבה המודלים לא רק מנסחים תשובות, אלא מתכננים משימות, בוחרים כלים, מבצעים קריאות למערכות, ומחזירים תיעוד תפעולי מלא. גישה זו נשענת על שילוב בין GPT ארבע נקודה אחת לביצוע מהיר ויציב, לבין GPT חמש נקודה שתיים לתכנון עמוק ורב שלבי. חברה שמיישמת זאת נכון מקבלת לא רק שיפור בחוויית שירות, אלא גם יכולת להקטין עלויות תפעול ולהעלות תפוקה של צוותים קיימים.

יכולת ראשונה: בנייה למציאות מורכבת ולא לתרחישים נקיים

ארגון אמיתי מפעיל תהליכים שחוצים מערכות הזמנות, מאגרי לקוחות, מדיניות, תשלומים ומקורות ידע. חברה שמבצעת הטמעה לפי תרחיש אידיאלי מגלה מהר שהסוכן נתקע על חריגות, חסרים, ומדיניות משתנה. Netomi מדגישה דפוסי הפעלה שמחזיקים הקשר לאורך משימות ארוכות, מכוונים להעדפת שימוש בכלים על פני ניחוש, ומחייבים תכנון שלבי פעולה לפני ביצוע.

חברת תעופה היא דוגמה טובה למורכבות עסקית. שיחת לקוח אחת יכולה לשלב בדיקת כללי כרטיס, חישוב זכאות לנאמנות, שינוי כרטוס, ואימות תנאים בזמן אמת. ארגון שמגדיר מראש חוזי כלים, נתיבי החלטה, וניהול חריגים יוכל להפוך את הסוכן לנכס תפעולי ולא למקור סיכון.

יכולת שנייה: מקביליות כדי לעמוד ביעדי זמן תגובה תחת עומס

ארגונים רבים מודדים רק את זמן המודל, אך בפועל זמן קצה לקצה כולל גם איסוף נתונים, קריאות לכלים, ולוגיקה של אימות. Netomi טוענת שהדרך לשמור על אמון משתמשים במצבי קצה היא להריץ זרימות עבודה במקביל ולא ברצף. חברה שמיישמת קונקרנציה ברמת הזרימה מקצרת את הזמן הכולל, ולא רק מאיצה רכיב יחיד.

חברת דראפטקינגס מצוטטת כדוגמה לביצועים בעומסי שיא. החברה מדווחת על תגובות בפחות משלוש שניות ודיוק סיווג כוונה של תשעים ושמונה אחוז גם בעומסים של יותר מארבעים אלף בקשות בו זמנית לשנייה. ארגון שמתרגם נתונים כאלה ליעדי שירות יכול לבנות תיק עסקי ברור, משום שהשיפור בזמן תגובה ובדיוק משפיע ישירות על נטישת לקוחות, שיעורי המרה ועלויות טיפול.

יכולת שלישית: ממשל ובקרה כחלק מובנה בזמן ריצה

ארגון מפוקח לא יכול להסתפק בבדיקת איכות לפני עלייה לאוויר. ארגון צריך ממשל שפועל תוך כדי ביצוע, כולל ולידציית סכימה לקריאות כלי מול חוזי OpenAPI, אכיפת מדיניות במהלך הסקה, הגנת מידע אישי לפני החזרה ללקוח, ומסלולי נפילה דטרמיניסטיים כשאין ודאות. חברה שמטמיעה תצפיות ריצה מקבלת עקבות טוקנים, צעדי הסקה, ולוגים של שרשרת כלים שמקלים על ביקורת, תחקור תקלות ועמידה בדרישות רגולציה.

חברת ביטוח דנטלי שמתוארת בדיווח מעבדת כשני מיליון פניות ספקים בשנה בכל חמישים המדינות. חברה כזו לא יכולה להרשות כשלי תאימות בתקופות רגישות כמו הרשמה פתוחה, ולכן שכבת ממשל בזמן אמת הופכת ממנגנון הגנה לתנאי סף עסקי. ארגון שמכניס ממשל לריצה יכול להגדיל אוטומציה בלי לגדול בסיכון, וזה בדיוק המקום שבו מופיע החזר השקעה אמיתי.

כאשר מבצעים תכנון הטמעה ניתן לתרגם את המתווה של Netomi למסגרת החלטה פשוטה. צוות עסקי צריך להגדיר תהליכים בעלי נפח גבוה או רגישות לזמן, צוות טכנולוגי צריך למדוד זמן קצה לקצה כולל כלים, וצוות סיכון צריך להגדיר מדיניות ומסלולי נפילה. גישה משולבת כזו מאפשרת להחליף מדדי הצלחה מעמומים במדדים תפעוליים ברורים כמו זמן טיפול ממוצע, שיעור העברה לנציג, איכות פתרון בפעם הראשונה, ועלות לפנייה.

חברת Netomi מצביעה גם על היבט ארכיטקטוני חשוב: חלוקת עבודה בין מודל מהיר למודל מתכנן. חברה יכולה להגדיר שימוש במודל מהיר לקריאות כלים ולמסלולים קצרי זמן, ושימוש במודל מתכנן למשימות מרובות שלבים עם אי ודאות גבוהה. חלוקה זו מאפשרת לשלוט בעלויות מחשוב ובזמן תגובה, ולהתאים את התכנון ליחידות שירות, תפעול, כספים ותמיכה טכנית.

תוצאה עסקית טיפוסית של הטמעה נכונה נובעת משלושה מנגנונים מצטברים. הפחתה בכמות פניות חוזרות מקטינה עומס ומעלה שביעות רצון. קיצור זמן טיפול מקטין עלות תפעול ליחידה ומשחרר קיבולת. שיפור עקביות ובקרה מקטין סיכוני ציות ומקרי קצה יקרים. ארגון שמודד את שלושת המנגנונים יחד יוכל לייצר תיק השקעה שמצדיק מעבר מפיילוט לפריסה רחבה.

חברת OpenAI מספקת כאן את שכבת ההסקה, אך הערך הארגוני נוצר בעיקר בהנדסת מערכת שמחברת מודלים לכלים, למדיניות ולמדדי שירות. ארגון שיאמץ את העקרונות של בנייה לסבוכיות, מקביליות, וממשל בזמן ריצה יוכל להרחיב שימוש בסוכנים גם לבנקאות, תקשורת וסחר אלקטרוני, שבהם עקביות, סקייל ותאימות הם תנאי סף.

פעולה מומלצת לארגון מתחילה במיפוי שלושה תהליכים בעלי נפח גבוה ורגישות לזמן, והגדרת יעדי זמן תגובה ואיכות לכל תהליך. המשך נכון כולל בניית חוזי כלים ותצפיות ריצה כבר מהשבוע הראשון, ולא רק לפני עלייה לייצור. תכנון כזה יקצר את זמן ההגעה לערך וימנע מחזורי תיקון יקרים אחרי חשיפה ללקוחות.