ממשל AI בארגונים: פער השליטה הופך לסיכון ניהולי אמיתי

ארגונים רבים עברו בשנה האחרונה משלב ההתלהבות משימושי AI לשלב הרבה יותר מורכב: הפעלה רציפה של מערכות שמקבלות החלטות, מפעילות תהליכים ונוגעות בנתונים עסקיים רגישים. האתגר המרכזי כבר אינו רק לבחור מודל טוב או לחבר כלי חדש למערכת קיימת. האתגר הוא לבנות יכולת שליטה שמאפשרת להרחיב שימושים בלי לייצר כאוס תפעולי, חשיפת מידע או תלות מסוכנת בספק אחד.

ממשל AI הופך מתהליך בקרה למנוע עסקי

מחקר חדש של IBM Institute for Business Value, שסקר 2,000 מנהלי טכנולוגיה בכירים ב-33 מדינות, מציג תמונה חדה: כשני שלישים ממנהלי ה-CIO וה-CTO אחראים על מערכות AI שאינם שולטים בהן במלואן. כמעט 70% מהמנהלים מציינים שצוותים עסקיים מאמצים טכנולוגיות מהר יותר מיכולת מחלקות ה-IT לעקוב. בעולם הישן קראנו לזה Shadow IT. בעולם של סוכני AI, אותה תופעה כבר יכולה להפעיל שרשרת פעולות אוטונומית, לגשת למידע, לשלוח נתונים החוצה וליצור תקלה רוחבית לפני שמישהו בכלל הבחין בכך.

רק 11% מהמשיבים במחקר מרגישים מוכנים לגמרי לקצב הפריסה הצפוי של סוכני AI עד 2027. במקביל, ארגונים דיווחו על ממוצע של 54 תקריות סוכנים בשנה שדרשו התערבות אנושית. כמעט 17% מהתקריות הוגדרו חמורות, ומתוכן 37% הסתיימו בחשיפת נתונים או בפרצות אבטחה. הנתון החשוב באמת הוא הפער בין ארגונים עם שליטה מובנית לבין ארגונים שנשענים על ממשל ידני. הראשונים פורסים פי 16 יותר סוכנים, מציגים שולי רווח תפעולי גבוהים ב-18%, וחווים 25% פחות תקריות.

ניהול סוכנים דורש אדם בלולאה, לא אדם על כל פעולה

כאשר מלווים ארגונים ביישום סוכני AI, מתגלה מהר מאוד שהדיון אינו טכני בלבד. סוכן שמטפל בבקשת לקוח, מעדכן CRM, מפיק מסמך משפטי או מפעיל תהליך רכש חייב להבין הקשר עסקי, הרשאות, חריגים, עלויות וסיכון. לכן אדם בלולאה הוא עיקרון קריטי, אבל אם כל פעולה של סוכן דורשת אישור ידני, לא נוצרה פריצת דרך. התכנון הנכון הוא להפוך עובד שבעבר ביצע תהליך אחד למפקח על מאות תהליכים, באמצעות רמות הרשאה, ספי סיכון, דגימת איכות, לוגים מלאים ומנגנוני עצירה.

המשמעות היא שמחלקות מערכות מידע מתחילות להתנהג כמו מחלקות משאבי אנוש עבור סוכני AI. הן צריכות להגדיר תפקידים, הכשרה, הרשאות, מדדי ביצוע, תהליכי קליטה ותהליכי השבתה. במקביל, הארגון חייב להתקדם בשני צירים: אוריינות AI רחבה לעובדים, ופיתוח פנימי של יכולת להקים, לבדוק ולנהל סוכנים. כלי רוחב כמו Claude או Copilot יכולים לשפר פרודוקטיביות, ומערכות כמו Copilot Studio או N8N יכולות להאיץ אוטומציה, אבל בלי מתודולוגיית ממשל הן עלולות להרחיב את הבעיה במקום לפתור אותה.

אבטחת מידע וכלכלת AI חייבות להיכנס לארכיטקטורה

תקציבי AI צפויים לצמוח מכ-15% מתקציב ה-IT בשנת 2025 לכמעט 25% עד 2027, אך 85% מהמנהלים חסרים נראות מלאה להוצאות בזמן אמת. זו אינה בעיית כספים בלבד, אלא בעיית ארכיטקטורה. ארגון שלא יודע איזה סוכן משתמש באיזה מודל, כמה טוקנים נצרכים, איזה מידע נשלח ולאן, לא יוכל לנהל ביצועים או סיכון. לכן נדרשים קטלוג סוכנים, ניטור שימוש, מדידת עלות לתהליך, ניהול הרשאות לפי הקשר עסקי, ובדיקות אבטחה לפני חיבור למערכות ליבה.

העמדה שלנו ברורה: מהירות ללא שליטה היא חוב טכנולוגי וניהולי. ארגון שרוצה להרוויח מ-AI צריך לבנות תשתית גמישה לניידות בין מודלים וספקים, להכשיר עובדים לתקשורת נכונה עם מודלים, ולפתח מומחיות פנימית שאינה נשענת על הבטחות שטחיות של מומחים מטעם עצמם. ממשל AI טוב אינו עוצר חדשנות. הוא מאפשר לה לפרוץ קדימה בקנה מידה, עם פחות תקלות, פחות בזבוז, ויותר ערך עסקי מדיד.