עלויות AI: מה ארגונים בישראל צריכים ללמוד מגולדמן זאקס וסיסקו

הדרך לרסן עלויות AI אינה להגביל את כולם באותה מידה, אלא לתקצב לפי משימה, איכות נדרשת וערך עסקי. המעבר של Goldman Sachs, Cisco ו-JPMorgan לבקרת שימוש אינו בהכרח נסיגה מאימוץ הטכנולוגיה. הוא מסמן שינוי ניהולי מתבקש: מהתלהבות מהיקף השימוש לאחריות על התוצאה.

לארגונים בישראל כדאי להיזהר משתי תגובות הפוכות: חלוקת גישה בלתי מוגבלת בלי מדידה, וקיצוץ רוחבי שחוסם דווקא את העובדים והתהליכים שמייצרים ערך. בשני המקרים, הבעיה אינה המודל. הבעיה היא היעדר כלכלה תפעולית ברורה סביבו.

מה באמת משתנה אצל החברות הגדולות?

ב-Goldman Sachs מרחיבים את מגוון כלי ה-AI לעובדים, אך מבחינים בין משימות שמצדיקות מודלי חזית לבין משימות שאפשר לבצע היטב באמצעות מודלים אחרים. ב-Cisco עוברים מתקופת התנסות עם טוקנים ללא הגבלה לתקציבים בניהול מנהלים. ב-JPMorgan דווח על תקרה חודשית לחלק מהמהנדסים המשתמשים ב-Claude Code, לצד בחינה של פריון, איכות והפחתת סיכונים.

אלה אינן פעולות זהות, אבל יש להן מכנה משותף: גישה ל-AI הופכת ממשאב ניסויי להוצאה שצריך לנהל.

תקרה חודשית לחלק ממהנדסי JPMorgan

2,000 דולר

תחזית הוצאות טוקנים ביחס לתקציב הפיתוח ב־Rippling

40%

התחזית המעודכנת ב־Rippling לאחר ההתאמות

10%–15%

הנתונים מדגימים החלטות תקציביות, לא אמת מידה שכל ארגון צריך להעתיק. ב-Rippling מדובר בתחזית הוצאות ביחס לתקציב כוח האדם במחקר ופיתוח, ולא בשיעור חיסכון שכבר מומש. לפי החברה, הגבלות וניתוב יעיל יותר בין מודלים הפחיתו את התחזית, בזמן שצריכת הטוקנים נותרה קרובה לשיאה. זה ההבדל בין פחות שימוש לבין שימוש יעיל יותר.

טוקנים אינם מדד לפריון

ארגון שמתגמל עובדים על צריכת טוקנים מודד פעילות, לא הצלחה. גם ארגון שמתגאה בירידה בצריכה עלול לטעות: ייתכן שהעובדים פשוט חזרו לבצע ידנית עבודה שהמערכת עשתה עבורם.

המדד הניהולי המועיל הוא עלות לתוצאה שעומדת בדרישות האיכות. למשל, עלות לטיפול בפנייה שנסגרה כראוי, לחשבונית שעברה בדיקה, או לשינוי תוכנה שעבר בדיקות והגיע לייצור.

העלות הזו כוללת יותר מחשבון הספק:

• עלות רישיונות ושימוש במודלים, בלי לספור את אותה הוצאה פעמיים.
• עלות אינטגרציה, תחזוקה, ניטור ותמיכה.
• זמן העובדים בהכנת קלט, בדיקת תוצרים וטיפול בחריגים.
• עלות תיקונים ועבודה חוזרת בעקבות תוצרים שגויים.
• עלויות בקרה ואבטחה, בנפרד מהערכת החשיפה לסיכון.

חיסכון בזמן אינו בהכרח חיסכון כספי. אם עובד התפנה אך זמנו לא הופנה לפעילות מועילה אחרת, הארגון קיבל קיבולת פוטנציאלית, לא בהכרח שיפור בשורת הרווח. לעומת זאת, קיצור תור שירות או מניעת צורך בהגדלת צוות יכולים ליצור ערך גם בלי לצמצם משרה קיימת.

השאלה אינה כמה AI העובד צורך, אלא כמה עבודה תקינה הארגון מקבל תמורת ההשקעה הכוללת.

תקציב לפי תהליך, לא רק לפי עובד

תקרה אישית היא מנגנון פשוט להפעלה, אבל כלי ניהולי חלקי. עובד שמפתח רכיב קריטי עשוי להצדיק הוצאה גבוהה בהרבה מעובד שמשתמש במודל לניסוח הודעות. גם בתוך אותו תפקיד, מורכבות המשימות משתנה.

לכן רצוי לשלב תקציב לפי תהליך עם הרשאות לפי תפקיד ומסלול מסודר לאישור חריגות.

ההפרדה בין ניסוי לייצור חשובה במיוחד. בשלב הלמידה לגיטימי להוציא כסף גם על ניסיונות שלא יבשילו. בתהליך שכבר פועל בשגרה, צריך לדעת מהי עלותו, מי אחראי עליו ובאילו תנאים נכון להרחיב אותו.

לא כל משימה צריכה את המודל החזק ביותר

ניתוב בין מודלים אינו בחירה אוטומטית במודל הזול ביותר. זו התאמה בין מורכבות המשימה, רגישות המידע, זמן התגובה ורמת האיכות הנדרשת.

אפשר לבחון מודל חסכוני לסיווג מסמכים שגרתיים, ולהעביר מקרים מורכבים למודל מתקדם יותר. אבל ההחלטה צריכה להתבסס על בדיקות עם דוגמאות מייצגות מהארגון, ולא על התרשמות מהדגמה. מודל זול שמייצר הרבה תיקונים עלול להיות האפשרות היקרה יותר.

בסוכנים נדרשת גם בקרה על אופן הביצוע: הגבלת ניסיונות חוזרים, עצירת לולאות, צמצום הקשר לא נחוץ ומניעת קריאות כפולות לכלים. לעיתים החשבון גדל בגלל תכנון לקוי של התהליך, לא בגלל מחיר המודל.

את ההשוואה צריך לבצע לאורך התהליך המלא. למשל, מערכת שמסווגת פנייה בזול אך מעבירה אותה למחלקה הלא נכונה עלולה להאריך את הטיפול ולפגוע בשירות. מחיר הקריאה לבדו לא יחשוף זאת.

אדם בלולאה, בלי להפוך אותו לצוואר בקבוק

AI מאפשר לבצע גם משימות הכוללות פרשנות ושיקול דעת, אך התוצרים אינם מובטחים מראש. לכן פיקוח אנושי הוא רכיב תכנוני קריטי. השאלה היא היכן להציב אותו.

אם עובד חייב לקרוא ולאשר כל תוצר מחדש, ייתכן שהעברנו את המאמץ מביצוע לבדיקה בלי לשנות מהותית את התפוקה. היעד צריך להיות מעבר לפיקוח על היקף עבודה גדול יותר, באמצעות טיפול בחריגים, דגימות ובקרות מותאמות סיכון.

בפעולות בעלות השלכות כספיות, משפטיות או הרשאות רגישות, ייתכן שיידרש אישור אנושי מראש. בתהליכים שגרתיים ובעלי סיכון נמוך אפשר לבחון אוטומציה רחבה יותר, עם יכולת עצירה ותיעוד. סף הביטחון שהמודל מציג אינו תחליף לבדיקת ביצועים בפועל.

איך מתחילים בלי לחנוק את האימוץ?

לא צריך להמתין למערכת מדידה מושלמת. צריך לבחור תהליך שאפשר להבין את כלכלתו, לקבוע אחריות וללמוד מהתוצאות.

1. 01

   ממפים הוצאה ובעלות

   מזהים כלים, חשבונות, תהליכים ובעל תפקיד שאחראי לתוצאה העסקית.

2. 02

   מגדירים הצלחה

   קובעים מדדי עלות, איכות וזמן טיפול מול המצב הקיים.

3. 03

   בודקים חלופות

   משווים מודלים ומסלולי ביצוע על מקרים מייצגים עם דרישות אבטחה זהות.

4. 04

   מפעילים בקרה מדורגת

   מגדירים תקציבים, התראות, עצירה ומסלול לאישור חריגות מוצדקות.

5. 05

   מרחיבים לפי תוצאות

   מגדילים שימוש כשהערך מוכח ומשנים או עוצרים תהליכים שאינם עומדים ביעדים.

האחריות כאן משותפת לכספים, למערכות מידע ולמנהל התהליך העסקי. כספים בוחנים את ההוצאה והערך; מערכות מידע אחראיות לתשתית, להרשאות ולתצפיתיות; והיחידה העסקית מגדירה מה נחשב תוצר שמיש. בלי החיבור הזה, כל מחלקה עלולה לשפר מדד מקומי ולפגוע בתוצאה הכוללת.

הלקח לישראל: לבנות יכולת, לא רק לקנות גישה

ארגון צריך להתקדם בשני מסלולים במקביל: אוריינות AI לעובדים, ויכולת פנימית לפיתוח ולניהול סוכנים. הכשרה טובה משפרת ניסוח משימות, בחירת הקשר ובדיקת תוצרים. תשתית סוכנים מאפשרת להטמיע יכולות בתוך תהליכי העבודה הקיימים, לעיתים עם פחות שינוי בהרגלים מכלי אישי חדש.

עם זאת, תשתית כזו מחייבת ניהול הרשאות, גרסאות, עלויות, בדיקות ואירועים. מערכות מידע נדרשות לנהל לא רק תוכנה, אלא גם את גבולות הפעולה ואת הביצועים של סוכנים ארגוניים.

זהו תחום מקצועי רב-תחומי. השכלה רלוונטית, ידע מחקרי וניסיון עסקי ויישומי נחוצים כדי להבחין בין אוטומציה מרשימה לבין תהליך יציב. במיוחד בעסקים קטנים ובינוניים, כדאי לבחון יועצים לפי יכולתם להציג מדידה, בקרות וניסיון בהפעלה שוטפת, ולא רק הדגמות מוצלחות.

הלקח מגולדמן זאקס וסיסקו אינו שצריך להשתמש פחות ב-AI. צריך להפסיק להתייחס לשימוש עצמו כאל הישג. תקציב טוב מאפשר להרחיב תהליכים מועילים, לתקן תהליכים בזבזניים ולעצור את מה שאינו עובד. זו אינה בלימה של האימוץ, אלא התנאי להפיכתו להשקעה עסקית בת-קיימא.