מודל PIDM של מיקרוסופט: מה 10 הדגמות יכולות לשנות בסוכני AI

מודל PIDM של Microsoft Research מציע שינוי משמעותי בלמידת חיקוי: במקום לנבא ישירות איזו פעולה אדם היה מבצע, הסוכן חוזה תחילה מצב עתידי רצוי ורק לאחר מכן מסיק איזו פעולה תוביל אליו. בניסוי המתואר, הגישה הצליחה ללמוד התנהגות אנושית מורכבת בזמן אמת מתוך עד 10 הדגמות בלבד.

המספר מושך תשומת לב, אבל הוא אינו הסיפור המרכזי. החשיבות האמיתית נמצאת במעבר מחיקוי של לחיצות ופעולות להבנה תפעולית של כיוון. אם הגישה תכליל היטב מעבר לסביבת המחקר, היא עשויה לצמצם באופן ניכר את כמות הנתונים הנדרשת להקמת סוכני AI למשימות מורכבות.

הדגמות בניסוי המתואר

עד 10

שלבי החלטה מרכזיים ב-PIDM

2

חשוב לקרוא את הנתונים האלה נכון. לא מדובר בהבטחה שכל תהליך עסקי ניתן ללמד באמצעות 10 דוגמאות, וגם לא במוצר מדף שמחליף תכנון, אינטגרציה ובקרות. מדובר בכיוון מחקרי שמראה כיצד מבנה למידה נכון עשוי להשיג יותר מכל הדגמה איכותית.

מה PIDM עושה אחרת

בגישת Behavior Cloning רגילה, המודל מקבל תצפית על מצב הסביבה ומנסה לחזות את הפעולה הבאה של המומחה. אם האדם פנה ימינה, לחץ על כפתור או בחר פריט בממשק, המודל לומד לשחזר את אותה פעולה במצב דומה.

הבעיה היא שהתנהגות אנושית אינה דטרמיניסטית. שני מומחים יכולים לפעול אחרת ועדיין להגיע לתוצאה טובה. אפילו אותו אדם עשוי לבחור פעולות שונות בהתאם למטרה, לסיכון, לזמן הזמין ולמידע שאינו גלוי במלואו למערכת.

PIDM, קיצור של Predictive Inverse Dynamic Models, מפרק את ההחלטה לשני שלבים:

1. חיזוי של מצב עתידי רצוי מתוך המצב הנוכחי וההקשר שנלמד.
2. חישוב הפעולה שיכולה להעביר את הסוכן מהמצב הנוכחי אל אותו מצב עתידי.

כך המודל אינו נדרש לחקות פעולה בודדת כאילו הייתה התשובה היחידה. הוא לומד תחילה לאן ההתנהגות אמורה להוביל, ורק לאחר מכן כיצד להתקדם לשם.

הערך של PIDM אינו רק חיסכון בדוגמאות. הוא מצביע על דרך לבנות סוכנים שמחקים כוונה מקצועית ולא רק רצף טכני של פעולות.

הטבלה אינה מוכיחה ש-PIDM עדיף בכל תרחיש. היא מחדדת שהמודל מגדיר את בעיית הלמידה בצורה שמתאימה יותר למשימות שבהן קיימות כמה דרכים לגיטימיות להגיע לתוצאה.

מדוע משחקי וידאו הם מבחן רציני

קל להתייחס לגיימינג כאל הדגמה מרשימה אך לא עסקית. בפועל, משחק בזמן אמת הוא סביבת ניסוי תובענית: יש בו מידע חלקי, שינויים תכופים, מגבלות זמן, פעולות מתחרות והשלכות שמופיעות רק בהמשך.

לפי תיאור המחקר, הסוכנים התמודדו גם עם השהיית רשת. זה פרט חשוב, משום שמערכות ארגוניות פועלות כמעט תמיד בתנאים לא מושלמים. שירותים מגיבים באיחור, נתונים מגיעים ממספר מקורות, ממשקים משתנים ומשתמש אחר עשוי לבצע פעולה במקביל לסוכן.

אותם מאפיינים קיימים במרכזים לוגיסטיים, ברצפות ייצור, במערכות תפעול, ברובוטיקה ובאוטומציה של תוכנות. לכן משחקים יכולים לשמש מעבדה יעילה לבדיקת עקרונות שיגיעו בהמשך למערכות עסקיות.

המשמעות הכלכלית: צוואר הבקבוק הוא ידע מומחה

איסוף הדגמות איכותיות הוא אחת העלויות הסמויות של פיתוח סוכני AI. לא מספיק להקליט עובד מבצע פעולה. צריך לבחור מומחה מתאים, להגדיר מהי הצלחה, לתעד חריגים, להסביר החלטות ולוודא שהדוגמאות מייצגות את המציאות ולא רק את המקרה הנוח.

בתהליכים מקצועיים, שעת הדגמה עלולה להיות שעה שבה מהנדס, אנליסט, רופא, חתם או מנהל תפעול אינו עוסק בעבודתו הרגילה. אם נדרשות אלפי דוגמאות, הכלכלה של הפרויקט נשחקת עוד לפני שלב הייצור.

גישה שמפיקה ערך ממספר קטן יותר של הדגמות יכולה להשפיע על כמה מרכיבים:

• קיצור הזמן בין בחירת התהליך לפיילוט עובד.
• הפחתת התלות באיסוף מאגרי פעולה גדולים.
• אפשרות לעבוד עם ידע מקצועי נדיר ויקר.
• התאמה מהירה יותר לתהליכים שמשתנים בתדירות גבוהה.
• בחינת יותר מקרי שימוש לפני התחייבות להשקעה רחבה.

עם זאת, מעט הדגמות אינן פוטרות את הארגון מאיכות. להפך, ככל שמספר הדוגמאות קטן, כך עולה החשיבות של בחירה מקצועית, כיסוי מקרי קצה והבנת ההטיות של כל מומחה.

הטעות הניהולית תהיה לקחת את המספר 10 ולתרגם אותו מיד לתקציב או ללוח זמנים. השאלה הנכונה היא אילו סוגי משימות מאפשרים למודל ללמוד כוונה מתוך מעט דוגמאות, ואילו משימות דורשות ידע הקשרי, זיכרון ארוך טווח או כללי ציות שאינם נראים בהדגמה.

היכן כדאי לבחון למידת חיקוי ארגונית

PIDM רלוונטי במיוחד לתהליכים שבהם אפשר לתאר מצב נוכחי, מצב עתידי רצוי וקבוצת פעולות אפשריות. הוא פחות מתאים, לפחות ללא שכבות משלימות, לתהליכים שבהם התוצאה מופיעה רק לאחר זמן רב או תלויה במידע חיצוני שאינו נגיש לסוכן.

מקרי שימוש אפשריים כוללים:

• תפעול מחסן שבו הסוכן בוחר רצף פעולות בהתאם לעומס ולמיקום מלאי.
• רובוטיקה תעשייתית הדורשת התאמה לשינויים קטנים בסביבה.
• טיפול בתקלות תוכנה דרך ממשקים קיימים ולא באמצעות API מלא.
• ניתוב אירועים במרכז בקרה בהתאם למצב הצפוי לאחר הטיפול.
• אוטומציה של תהליכי Back Office שיש בהם כמה מסלולים תקינים.
• סימולציה והדרכה של עובדים במצבים מורכבים או נדירים.

הבחירה אינה צריכה להתחיל מהשאלה היכן אפשר להפעיל מודל, אלא היכן יש תהליך יקר, חוזר, מדיד ועשיר בהחלטות. AI הוא מנגנון לשיפור תוצאה עסקית, לא יעד בפני עצמו.

אדם בלולאה, אבל לא על כל פעולה

למידת חיקוי מחדדת את שאלת האחריות. אם הסוכן לומד התנהגות אנושית, מי אחראי כאשר הוא מיישם אותה בהקשר חדש? התשובה אינה להוסיף אישור אנושי לכל צעד. במצב כזה הארגון ממכן את הלחיצה, אך משמר את צוואר הבקבוק.

העיקרון הנכון הוא אדם בלולאה לפי סיכון ואי ודאות. אדם צריך לטפל בחריגים, בהחלטות בעלות השלכה משמעותית ובמקרים שבהם ביטחון המערכת נמוך. פעולות שגרתיות ובעלות סיכון מוגבל צריכות להתבצע אוטונומית תחת תיעוד, הרשאות ומנגנוני עצירה.

המטרה היא שעובד שפיקח בעבר על תהליך יחיד יוכל לפקח בעתיד על מאות מופעי תהליך. לשם כך נדרש ממשק ניהולי שמציג חריגים לפי עדיפות, ולא זרם אינסופי של בקשות אישור.

כך נכון לבנות פיילוט

פיילוט איכותי אינו רק ניסוי במודל. הוא ניסוי במערכת הכוללת את המודל, נתוני הקלט, סביבת הפעולה, מנגנון ההסלמה והאדם שמפקח עליה.

1. 01

   מגדירים תוצאה

   בוחרים מצב עתידי רצוי ומדד עסקי שניתן לבדוק.

2. 02

   אוספים הדגמות

   מתעדים מומחים, החלטות, הקשר וחריגים ולא רק פעולות ממשק.

3. 03

   בונים סביבת הערכה

   משחזרים תרחישים רגילים ומקרי קצה ללא סיכון לייצור.

4. 04

   מגדירים סמכות

   קובעים אילו פעולות אוטונומיות ואילו מחייבות הסלמה לאדם.

5. 05

   מודדים תהליך מלא

   בוחנים זמן, עלות, שגיאות והתערבות אנושית לאורך המשימה.

בשלב ההערכה, דיוק הפעולה הבאה הוא מדד חלקי בלבד. ייתכן שסוכן יבחר פעולה שונה מהמומחה אך יגיע לתוצאה טובה יותר. מנגד, הוא יכול לחקות היטב פעולות מקומיות ועדיין להיכשל במטרה הכוללת.

לכן יש למדוד שיעור השלמת משימות, עלות למקרה, זמן מחזור, שכיחות התערבות אנושית, נזק פוטנציאלי, התאוששות משגיאות ועמידה במדיניות. אלה המדדים שמחברים בין מחקר אלגוריתמי לתפעול עסקי.

התשתית הארגונית חשובה מהמודל הבודד

גם אם PIDM או גישה דומה יהפכו לזמינים כמוצר, ארגון לא יוכל לנהל סוכנים באמצעות סדרת פיילוטים מנותקים. נדרשת פלטפורמה להקמה, הרשאות, ניטור, גרסאות, הערכה, תיעוד והפסקת סוכנים.

Microsoft Copilot Studio יכול להתאים לארגונים המבוססים עמוקות על האקו-סיסטם של מיקרוסופט, בעוד כלים כמו n8n נכנסים כיום גם לסביבות ארגוניות גדולות. הבחירה הטכנולוגית חשובה, אך היכולת הפנימית חשובה יותר: הארגון צריך לדעת להחליף מודל, לשנות תהליך ולנהל סיכונים בלי להתחיל מחדש בכל פעם.

יש גם להפריד בין המחקר של Microsoft Research לבין היכולות הזמינות כעת ב-Copilot או ב-Copilot Studio. קרבה של מותג אינה הוכחה לכך שהיכולת המחקרית קיימת במוצר, נתמכת בסביבת הלקוח או עומדת בדרישות אבטחת המידע שלו.

בעתיד, מחלקות מערכות מידע יפעלו במידה רבה כמחלקות משאבי אנוש עבור סוכני AI. הן יקלטו סוכן לתפקיד, יגדירו הרשאות, ימדדו ביצועים, יטפלו בחריגות ויוציאו אותו משימוש כאשר התהליך או רמת הסיכון משתנים.

לא רק טכנולוגיה: איכות המומחה קובעת מה נלמד

למידת חיקוי עלולה להישמע כמו קיצור דרך שמדלג על ניתוח מקצועי. בפועל, היא מעצימה את חשיבותו. אם ההדגמות מגיעות מעובד שמיישם נוהל שגוי, עוקף בקרות או פועל לפי ידע מיושן, הסוכן עשוי ללמוד את אותן חולשות ביעילות גבוהה.

לכן פרויקטים כאלה מחייבים צוות מולטידיסציפלינרי: מומחה לתהליך, איש ניהול, אנשי נתונים ו-AI, אבטחת מידע, משפט וגורמי בקרה. יתרונם של חוקרים ואנשי מקצוע המשלבים ידע בתחום היישום עם הבנה עמוקה ב-AI גדול במיוחד כאן.

לאקדמיה יש תפקיד מהותי בפיתוח ובהערכה של שיטות כאלה. מושגים כמו דינמיקה הפוכה, הכללה, אי ודאות והסטה בהתפלגות אינם מונחי שיווק. הם הבסיס להבנת המקרים שבהם המערכת צפויה לעבוד והמקרים שבהם היא עלולה להיכשל.

השוק מלא ביועצים שמציגים הדגמה קצרה כהוכחת היתכנות ארגונית. עסקים קטנים ובינוניים חשופים במיוחד להבטחות כאלה, משום שלא תמיד יש להם צוות פנימי שמסוגל לבדוק את הטענות. השכלה רלוונטית, ניסיון עסקי ויכולת יישום בשטח אינם תוספת נחמדה לפרויקט AI, אלא תנאי לבניית מערכת יציבה.

ארבע שאלות שהנהלה צריכה לשאול

לפני השקעה בלמידת חיקוי או בסוכן המבוסס עליה, כדאי לדרוש תשובות ברורות:

• מהו המצב העתידי שהמערכת מנסה להשיג, וכיצד הוא קשור למדד עסקי?
• אילו מקרי קצה אינם מיוצגים בהדגמות, ומה יקרה כאשר יופיעו?
• באילו תנאים הסוכן עוצר או מעביר את הטיפול לאדם?
• כיצד נזהה הידרדרות לאחר שינוי בממשק, בנתונים או בתהליך?

אם אין תשובות, הבעיה אינה בהכרח במודל. לעיתים קרובות אין עדיין הגדרה מספקת של התהליך העסקי עצמו.

PIDM מסמן שינוי בתכנון סוכנים

התרומה המעניינת של PIDM היא רעיונית: סוכנים מתקדמים אינם צריכים לחקות כל פעולה אנושית. הם צריכים להבין לאיזה מצב האדם ניסה להגיע, לבחור דרך סבירה להגיע אליו ולהסלים כאשר ההקשר חורג ממה שלמדו.

זהו כיוון מתאים במיוחד לאוטומציה של תהליכים לא דטרמיניסטיים, שבהם כללים קשיחים אינם מספיקים אך הפעלה ידנית מלאה יקרה מדי. הוא גם מחזק את הצורך להתקדם בשני נתיבים במקביל: לפתח אוריינות AI בקרב העובדים ולבנות יכולת ארגונית להקמה ולניהול של סוכנים.

PIDM עדיין אינו סיבה לשנות מחר את מפת המערכות הארגונית. הוא כן סיבה לבחון מחדש את אסטרטגיית הנתונים וההדגמות: פחות איסוף המוני ללא הבחנה, יותר תיעוד איכותי של מטרות, הקשר ושיקול דעת מקצועי. שם עשוי להימצא היתרון התפעולי האמיתי.