בינה מלאכותית אסטרטגית דורשת מדידה, לא רק אלגוריתם מומחה
מנהלים נוטים לחשוב שבעיות מורכבות דורשות תמיד פתרון מומחה שנבנה במיוחד עבורן. בעולם של משא ומתן, תמחור, מסחר, תכנון מלאי או ניהול סיכוני אבטחה, ההנחה הזו נשמעת טבעית במיוחד. הרי כאשר הצד השני מסתיר מידע, משנה אסטרטגיה או מנסה לנצל חולשה, מערכת כללית נשמעת כמו פשרה. מחקר חדש של MIT מציע תמונה אחרת ומאתגרת יותר עבור כל ארגון שבונה יכולות AI לקבלת החלטות.
בינה מלאכותית אסטרטגית נמדדת מול יריב ולא מול תשובה נכונה
חוקרים מ-MIT בחנו משחקים לשני שחקנים ובסכום אפס, שבהם רווח של צד אחד הוא הפסד של הצד השני. במשחקים עם מידע חסר, כמו פוקר, מכרזים או גרסאות מורכבות של משחקי לוח, לשחקן אין תמונת מצב מלאה. דווקא אלגוריתמי Policy Gradient, משפחה כללית של למידת חיזוק, הצליחו בחמישה משחקי ניסוי לעקוף אלגוריתמים ייעודיים מתורת המשחקים. זו נקודה חשובה, כי Policy Gradient לא נולד כפתרון מומחה למשחקים אסטרטגיים. הוא משפר מדיניות פעולה בהדרגה לפי תגמול, ובכל זאת הצליח להתמודד עם סביבה שבה היריב עצמו משתנה.
המסר העסקי אינו שצריך להחליף כל מומחיות במודל כללי. המסר חד יותר: ארגונים לא יכולים לבחור טכנולוגיית AI רק לפי שם האלגוריתם או לפי מצגת ספק. צריך לבדוק עמידות בתרחישי קצה, מול משתמשים, מתחרים, ספקים או לקוחות שמגיבים למערכת ולא רק צורכים את הפלט שלה.
למידת חיזוק ומדד הניצול משנים את שיחת ה-ROI
המדד המרכזי במחקר הוא Exploitability, כלומר עד כמה ניתן לנצל את האסטרטגיה של המערכת על ידי יריב אופטימלי. בארגון עסקי זהו רעיון קריטי. מערכת תמחור דינמי יכולה להיראות רווחית בבדיקת עבר, אך להיכשל כאשר לקוחות לומדים לתזמן רכישות. סוכן רכש יכול להוזיל עלויות בשבוע הראשון, אך לחשוף דפוסי ויתור שמחלישים את הארגון במשא ומתן עתידי. מערכת ניהול מלאי יכולה לשפר ממוצעים, אך לקרוס בזמן אירוע חריג.
לכן מדידת AI צריכה לכלול סימולציות מתחרות, בדיקות אדברסריות, ניטור חריגות ומדדי יציבות לאורך זמן. בעולמות תפעוליים אנו ממליצים למדוד לא רק דיוק או חיסכון, אלא גם שיעור החלטות שהועברו לאדם, זמן התאוששות מתרחיש קצה, פיזור טעויות בין יחידות עסקיות, ועלות טעות ביחס לערך האוטומציה. בלי שכבת מדידה כזו, גם מודל מרשים עלול להפוך לסיכון תפעולי.
ניהול סיכוני AI מתחיל בתשתית ארגונית ולא בסיסמאות
כאשר אנו מלווים חברות בהטמעת AI, הפער המרכזי כמעט אף פעם אינו רק טכני. הפער הוא שילוב של ידע עסקי, הבנת תהליך, יכולת ניסוי, ממשל נתונים ואדם בלולאה. אדם בלולאה אינו אמור לאשר כל פעולה, כי אז לא בנינו יכולת חדשה. המטרה היא לאפשר לאדם אחד לפקח על עשרות ומאות תהליכים, לזהות חריגים, לשפר מדיניות ולנהל סיכונים במקום לבצע ידנית כל החלטה.
המחקר מחזק עמדה שאנו רואים בשטח: היתרון אינו שייך בהכרח למי שרוכש את הכלי הכי נוצץ, אלא למי שבונה יכולת פנימית להעריך, לאמן, לפרוס ולנהל מערכות AI. ארגונים צריכים להשקיע באוריינות AI לצד פיתוח סוכנים, להקים סביבת סימולציה לפני פרודקשן, להגדיר מדדי ניצול וכשל, ולחבר בין מומחי תחום, אנשי מערכות מידע, חוקרי נתונים והנהלה עסקית. בעתיד הקרוב מחלקות מערכות מידע יתפקדו יותר ויותר כגופי משאבי אנוש עבור סוכני AI. מי שיתייחס ל-AI כעניין טכני בלבד יישאר עם הדגמות יפות. מי שיבנה מנגנון מדידה וניהול יקבל יתרון תחרותי אמיתי.
