סוכני קול ארגוניים צריכים מבחן תפעולי לפני שהם פוגשים לקוחות
מנהלים רבים כבר מבינים שסוכני קול אינם עוד הדגמה נחמדה של בינה מלאכותית, אלא רכיב תפעולי שיכול להשפיע על שירות, אבטחת מידע, זמני טיפול ועלויות. הבעיה מתחילה כאשר סוכן נשמע משכנע, אך אינו יודע לבצע פעולה עסקית עד הסוף. בארגון אמיתי לא מספיק לענות יפה. צריך לזהות משתמש, לבדוק הרשאות, להפעיל כלי, לעדכן מערכת, לתעד החלטה ולדעת גם לסרב.
סוכני קול עוברים ממבחן שיחה למבחן ביצוע
חברת ServiceNow AI הרחיבה את ערכת EVA-Bench לשלושה תחומים ארגוניים מרכזיים: שירות לקוחות בתעופה, ניהול שירותי IT ושירותי משאבי אנוש במערכת בריאות. הערכה כוללת 213 תרחישים, 121 כלים ויותר מ-35 זרימות עבודה. החשיבות אינה רק במספרים, אלא בשיטת המדידה. כל תרחיש כולל מצב התחלתי, יעד משתמש, קריאות לכלים חיצוניים ומצב סופי שאפשר לאמת.
גישה כזו משקפת טוב יותר את המציאות במוקדי שירות. לקוח שמנסה לשנות טיסה אינו צריך שיחה אמפתית בלבד. הוא צריך שינוי תקף במערכת ההזמנות, חישוב נכון של מדיניות כבודה, בדיקת זכאות ואישור פעולה. עובד שננעל מחוץ לחשבון אינו צריך תשובה כללית. הוא צריך תהליך אימות, העלאת הרשאה במידת הצורך, ובקרה שמונעת עקיפת אבטחה. כאן נופלים סוכנים רבים, בעיקר כאשר השיחה כוללת כמה כוונות, לחץ מצד המשתמש או בקשה שאסור לבצע.
ניהול סוכנים מחייב הרשאות, זהות ואדם בלולאה
כאשר ארגונים בוחנים הטמעת סוכני AI, השאלה החשובה אינה אם המודל נשמע אנושי. השאלה היא האם הסוכן יודע לעבוד בתוך מדיניות. אימות זהות, שימוש בקוד חד פעמי, גישה למידע אישי והפעלת כלים תפעוליים צריכים להיות חלק מובנה מהבדיקה, ולא תוספת מאוחרת של צוות אבטחת מידע. ערכת EVA-Bench מדגישה בדיוק את הנקודה הזו, משום שהיא בוחנת תרחישים שבהם הסוכן חייב להבדיל בין שירותיות לבין ציות למדיניות.
עמדה מקצועית חשובה כאן היא שסוכן AI אינו פרויקט טכני בלבד. הטמעה טובה משלבת ידע עסקי, הבנת תהליכים, אבטחת מידע, תפעול וניהול שינוי. אדם בלולאה נשאר עיקרון קריטי, אך לא במובן שבו כל פעולה מחכה לאישור ידני. המטרה הנכונה היא לאפשר לאדם שפיקח בעבר על תהליך אחד לפקח על עשרות או מאות תהליכים, בעזרת חריגות, דירוגי סיכון, לוגים ומנגנוני עצירה.
אוטומציה ארגונית צריכה מדדי הצלחה קשיחים
הלקח המעשי למנהלים ברור: לפני הרחבה לשירות חי, יש לבנות בנצ'מרק פנימי שמבוסס על תהליכי הליבה של הארגון. לא מאה שאלות כלליות, אלא עשרות תרחישים אמיתיים עם נתוני פתיחה, כלי יעד, מצבי כשל ותוצאה צפויה. רצוי למדוד שיעור השלמת משימה, שיעור הפרת מדיניות, זמן טיפול, מספר התערבויות אדם, ויכולת שחזור מלאה של כל פעולה.
בחירה בפלטפורמה חשובה, אך אינה מחליפה יכולת פנימית. ארגון חייב לדעת להקים, לנהל ולשפר סוכנים בעצמו, בין אם הוא עובד עם אקו סיסטם של מייקרוסופט, כלי אוטומציה כמו N8N, או מודלים מתקדמים של אנטרופיק ו-OpenAI. מחלקות מערכות מידע יהפכו בהדרגה למחלקות משאבי אנוש עבור סוכני AI: הן יגדירו תפקידים, הרשאות, הכשרות, מדדי ביצוע ותהליכי פיטורין לסוכנים שאינם עומדים ברף.
הארגונים שיצליחו לא יהיו אלה שהעלו סוכן קול ראשון לאוויר, אלא אלה שבנו סביבו תשתית מדידה, ממשל ותפעול. סוכן קולי טוב צריך להיבחן כמו עובד חדש בתפקיד רגיש: לא לפי רושם ראשוני, אלא לפי היכולת לבצע עבודה אמיתית, תחת לחץ, בהתאם למדיניות, ובאופן שניתן לבדוק בדיעבד.
