סיכוני בינה מלאכותית: כשהתלות הדיגיטלית מגיעה לדירקטוריון

בינה מלאכותית ושיבושים טכנולוגיים מדאיגים מנהלים יותר מגיאופוליטיקה, לפי סקר חדש של KPMG. אבל המסקנה לארגונים בישראל אינה שצריך להאט את אימוץ ה-AI. צריך להפסיק למדוד הצלחה רק לפי מה שהמערכת מסוגלת לבצע, ולהתחיל לבדוק מה קורה לעסק כשהיא טועה, משתנה או מפסיקה לעבוד.

זו שאלה עסקית לפני שהיא שאלה טכנולוגית: מי מוסמך לעצור תהליך, איזו פעילות חייבת להימשך, ומה המחיר של תלות בספק שאי אפשר להחליף בזמן סביר?

הציבו שיבושי טכנולוגיה ו-AI בראש

64%

ציינו עימותים גיאופוליטיים

58%

סימנו תלות דיגיטלית כחוליה החשופה ביותר

46%

הנתונים מגיעים מהדוח של KPMG בנושא חוסן שרשראות אספקה, המבוסס בין היתר על סקר Ipsos בקרב 109 מנהלים בכירים בשווקים מרכזיים. זהו מדגם מצומצם, ולא סקר מייצג של המשק הישראלי. כדאי לקרוא אותו כאיתות לסדר היום הניהולי, לא כהוכחה שטכנולוגיה מסוכנת יותר ממלחמה בכל ענף ובכל מדינה.

הסיכון אינו רק במודל. הוא בתלות שנבנית סביבו

כשמדברים על סיכוני AI, קל להתמקד בתשובה שגויה או בחשיפת מידע. אלה סיכונים חשובים, אבל הם אינם כל התמונה. הסיכון העמוק יותר נוצר כשארגון בונה תהליך חיוני סביב רכיב שאינו מבין מספיק ואינו יודע להפעיל בלעדיו.

תלות כזאת יכולה להיווצר גם בלי פרויקט AI גדול. צוות רכש מתחיל להסתמך על סיכומי ספקים אוטומטיים, שירות הלקוחות נעזר בסיווג פניות, והכספים מקבלים המלצות לטיפול בחריגות. כל שימוש נראה מקומי וסביר. יחד הם יוצרים תלות תפעולית שלא בהכרח מופיעה במפת הסיכונים.

גם פיזור בין ספקים אינו מבטיח עצמאות. שתי מערכות שונות עשויות להישען על אותו ספק ענן, אותו מודל או אותו מקור מידע. לכן מיפוי ספקים אינו תחליף למיפוי התלויות שמתחתיהם.

בישראל, שבה ארגונים כבר מתמודדים עם סיכוני ביטחון, כוח אדם ושילוח, אין טעם לנהל תרחיש טכנולוגי בנפרד מהמציאות התפעולית. שיבוש באספקה עשוי להגיע דווקא כשהצוות חסר, הביקוש משתנה ומערכת ההמלצות נשענת על נתונים שכבר אינם רלוונטיים.

חוסן אינו הבטחה שהמערכת לא תיכשל. הוא היכולת להמשיך לספק שירות חשוב גם כשהיא נכשלת.

AI יכול לחזק חוסן, בתנאי שלא נותנים לו סמכות בלי גבולות

הפרדוקס בדוח שימושי: 49% מהמשיבים מעניקים עדיפות ל-AI ולאנליטיקה חזויה כאמצעים לחיזוק החוסן. אותה טכנולוגיה שמייצרת חשש יכולה לעזור לזהות חריגות, לקשר בין אירועים ולבחון חלופות מהר יותר.

ניקח יבואן ישראלי שמקבל הודעות מספקים, עדכוני שילוח ומידע ממערכת המלאי. סוכן AI יכול לאסוף את המידע, לזהות הזמנה שנמצאת בסיכון, להסביר את ההשלכה ולהכין חלופות לבדיקת מנהל הרכש. הערך אינו עוד סיכום נאה, אלא קיצור הזמן בין הופעת הבעיה להחלטה שאפשר לבצע.

אבל צריך להבחין בין סוגי משימות. חישוב יתרת מלאי צריך להישען על נתוני המקור ועל לוגיקה בדוקה. פירוש הודעה עמומה מספק יכול להיעזר ב-LLM. התחייבות כספית חדשה דורשת כללי הרשאה ואישור בהתאם לסיכון. לא כל שלב בתהליך צריך AI, ולא כל פלט של AI צריך להפוך לפעולה.

ההפרדה הזאת מאפשרת להרחיב אוטומציה בלי להעביר למודל סמכות בלתי מוגבלת. היא גם מבהירה היכן נדרשת מומחיות עסקית, ולא רק יכולת לחבר ממשקי תוכנה.

אדם בלולאה לא אמור להפוך לצוואר הבקבוק החדש

להוסיף אישור אנושי לכל פעולה זו דרך פשוטה להיראות זהירים. זו לא בהכרח דרך יעילה לנהל סיכון. אם העובד נדרש לקרוא מחדש כל מסמך ולבדוק כל מסקנה, הארגון עלול לקבל גם עלות טכנולוגית וגם עומס אנושי שלא פחת.

התכנון הנכון מאפשר לאדם לפקח על היקף גדול של פעילות באמצעות טיפול בחריגים. לשם כך צריך להגדיר מראש אילו פעולות מותר לבצע אוטומטית, מה מחייב בדיקה, ואילו אירועים עוצרים את התהליך. אלה יכולים להיות מידע חסר, סתירה בין מקורות, חריגה מסמכות או חשיפה כספית שאינה מאושרת.

ממשק הבקרה צריך להציג למפקח את המקורות, הפעולה המוצעת והסיבה לחריגה. כשכל אלה זמינים, האדם יכול להפעיל שיקול דעת במקום לשחזר את עבודת המערכת מהתחלה.

מה ההנהלה צריכה לדרוש לפני הרחבת השימוש

הפער הבולט בדוח הוא בין תחושת מוכנות לבין בחינה של תלויות בפועל: 70% מהמנהלים הביעו ביטחון ביכולת לשמר פעילות קריטית בזמן שיבוש חיצוני משמעותי. הביטחון הזה חשוב, אבל אינו מחליף תרגול.

במקום לבקש עוד הדגמה מוצלחת, הנהלה צריכה לבקש לראות מה קורה כשהספק אינו זמין, הרשאה פוקעת או המידע סותר את עצמו. התהליך המוצע הוא ניהולי לא פחות משהוא טכני:

1. 01

   ממפים תהליך עסקי קריטי

   מזהים את התוצאה העסקית, מקורות המידע, התלויות והאחראי להמשך הפעילות.

2. 02

   מגדירים גבולות סמכות

   קובעים מה אוטומטי, מה דורש אישור ומתי עוצרים את התהליך.

3. 03

   מתרגלים מצב כשל

   בודקים השבתת ספק, מידע חסר ותשובה שגויה מול חלופת עבודה מוגדרת.

4. 04

   מודדים ומרחיבים בהדרגה

   מרחיבים שימוש רק לאחר בדיקת תועלת, עומס פיקוח ויכולת התאוששות.

המדדים צריכים לכלול זמן סגירת תהליך, עלות לטיפול, שיעור פעולות שדרשו תיקון וזמן התאוששות. גם דקות הפיקוח האנושי הן עלות. חישוב כדאיות שמתעלם מהן, מעלויות האינטגרציה ומתחזוקת הבקרות עלול להציג התייעלות שאינה קיימת.

היכולת שצריך לבנות בתוך הארגון

התשובה אינה רכישת פלטפורמה בלבד. ארגון צריך להתקדם בשני מסלולים: אוריינות AI לעובדים, ויכולת פנימית להקים ולנהל סוכנים. הראשון משפר ניסוח משימות, בדיקת תשובות והבנת מגבלות. השני מאפשר לשלב ביצוע אוטומטי בתוך זרימת העבודה, לעיתים בלי לדרוש מהעובדים לשנות מהותית את הרגליהם.

מחלקת מערכות המידע תצטרך לנהל לסוכנים הרשאות, זהויות, ניטור, גרסאות והפסקת פעילות. היחידה העסקית תצטרך להגדיר הצלחה, חריגה ואחריות. אין כאן מקום לפרויקט שנמסר כולו לספק ונשכח לאחר ההשקה.

גם בחירת אנשי המקצוע היא חלק מניהול הסיכון. היכרות עם כלי פופולרי אינה תחליף להשכלה רלוונטית, להבנה עמוקה ב-AI ולניסיון בתהליכים עסקיים. החיבור בין ידע אקדמי, ניסיון יישומי ושיקול דעת ניהולי חשוב במיוחד כשהמערכת משתתפת בהחלטות ולא רק מנסחת טקסט.

השאלה הנכונה לדירקטוריון אינה אם לארגון יש AI. היא אם הארגון יודע להפיק ממנו ערך, לפקח עליו ולהמשיך לעבוד גם בלעדיו. זו דרישה שאפשר לבדוק, לתרגל ולתקצב. והיא מועילה הרבה יותר מעוד הצהרה על חדשנות.