Agentic AI בארגון: שכבה סמנטית בזמן שאילתה היא תנאי לאנליטיקה אמינה

התשובה הקצרה: המודל אינו הבעיה המרכזית

כדי להפעיל Agentic AI על נתונים ארגוניים, לא מספיק לחבר LLM ל-Aurora, ל-Redshift, ל-S3 או למחסן נתונים אחר. הסוכן צריך לדעת מהו לקוח פעיל, כיצד מחשבים הכנסה, איזה מזהה מחבר בין המערכות, אילו רשומות מותר למשתמש לראות ומהי רמת הוודאות הנדרשת לפני ביצוע פעולה.

התשובות לשאלות האלה אינן נמצאות במודל. הן נמצאות בידע העסקי של הארגון. לכן, השכבה הסמנטית היא רכיב ליבה בארכיטקטורה ולא תוספת נוחה. היא מתרגמת שפה עסקית למבני נתונים, קשרים, כללים והרשאות שניתן לנהל ולבקר.

כאשר החיבור למקורות מתבצע בזמן השאילתה, אפשר לקבל נתונים עדכניים בלי לשכפל כל מקור לצינור ETL חדש. עם זאת, חיבור בזמן שאילתה אינו מבטיח לבדו זמן אמת. רמת העדכניות תלויה במקור, במיפוי, במטמון ובמדיניות הרענון.

המשמעות למנהלים ברורה: בחירת המודל חשובה, אך היא אינה פותרת חוסר עקביות בנתונים. מודל מתקדם שמקבל משמעות עסקית עמומה יפיק תשובה משכנעת, מהירה ושגויה.

מדוע RAG לבדו אינו מספיק לאנליטיקה

RAG הוא פתרון מצוין כאשר התשובה נמצאת במסמך, בנוהל, בחוזה או במאגר ידע טקסטואלי. הוא מאפשר לאתר קטעים רלוונטיים ולבסס עליהם תשובה. אנליטיקה עסקית דורשת יכולות אחרות: חישובים, צירופים בין טבלאות, סינון לפי זמן, התאמת מזהים, אכיפת הרשאות והפעלת כללים.

שאלה כמו מה היו המכירות ברבעון האחרון עשויה להיראות פשוטה, אך בפועל היא מחייבת החלטות רבות. האם מכירה נרשמת במועד ההזמנה או במועד ההכרה בהכנסה? האם מבטלים עסקאות שהוחזרו? באיזה שער מטבע משתמשים? האם חברה בת נכללת בחישוב? RAG יכול למצוא מסמך שמתאר חלק מהמדיניות, אך הוא אינו הופך את המדיניות אוטומטית ללוגיקה עקבית שנאכפת בכל שאילתה.

הבחירה הנכונה ברוב הארגונים אינה בין RAG לשכבה סמנטית. יש להשתמש ב-RAG כדי להביא מדיניות והסברים, ובשכבה הסמנטית כדי לבצע חישובים ולגשת לנתונים מובנים. הסוכן מחבר בין שני העולמות ומציג תשובה שניתן להסביר את מקורה.

כיצד נראית שכבה מחברת בזמן שאילתה

ארכיטקטורה אפשרית משלבת Stardog כשכבת ידע, Amazon Bedrock AgentCore להפעלת הסוכן, Aurora למידע תפעולי ו-Redshift לאנליטיקה. Claude דרך Bedrock יכול לשמש לתכנון הפעולה, לבחירת הכלים ולניסוח התשובה.

זרימת העבודה נראית כך:

• המשתמש מציג שאלה עסקית בשפה טבעית.
• הסוכן מזהה את הכוונה ואת הישויות הרלוונטיות.
• שכבת הידע מתרגמת את המושגים העסקיים לשאילתת SPARQL או לממשק סמנטי מקביל.
• מנוע המיפוי יוצר שאילתות SQL מול המקורות המתאימים.
• התוצאות מאוחדות לפי מזהים וכללים שהארגון הגדיר.
• מדיניות הרשאות מסננת מידע לפני שהוא חוזר למודל.
• הסוכן מנסח תשובה, מציג מקורות ויכול להפנות חריגים לבדיקה אנושית.

בדוגמת Customer 360, פרטי הלקוח עשויים להימצא במערכת תפעולית והיסטוריית הרכישות במחסן אנליטי. במקום להכריח את המודל לנחש כיצד לחבר בין שתי סכימות, האונטולוגיה מגדירה שלשני המקורות יש ייצוגים של אותה ישות עסקית. המיפוי קושר אותם למזהה יציב, והצירוף מתבצע בזמן השאילתה.

זה אינו רק שיפור טכני. הוא מצמצם שכפול לוגיקה, מפחית תלות בדשבורדים ייעודיים ומאפשר להוסיף שאלות חדשות בלי לבנות לכל אחת תהליך נתונים נפרד.

שכבה סמנטית אינה מילון מונחים משודרג

אחת הטעויות הנפוצות היא להתייחס לאונטולוגיה כרשימת שמות מוסכמים. שכבה שימושית צריכה לבטא ארבעה סוגים של ידע:

• ישויות: לקוח, ספק, הזמנה, מוצר, חשבונית או אירוע שירות.
• קשרים: לקוח ביצע הזמנה, הזמנה כוללת מוצר, חשבונית משויכת לישות משפטית.
• כללים: כיצד מחשבים הכנסה, מי נחשב לקוח פעיל ומתי עסקה מוגדרת כחריגה.
• מדיניות: מי רשאי לראות שדות, באיזו רמת פירוט ובאילו תנאים.

בניית השכבה דורשת שילוב בין אנשי דאטה, מומחי תחום, אבטחת מידע, תפעול וניהול. AI אינו עניין טכני בלבד, וגם השכלה רלוונטית חשובה כאן. ידע מחקרי במדעי המחשב מועיל, אך לא פחות חשוב מחקר או ניסיון המשלבים טכנולוגיה עם תהליכים מקצועיים, קבלת החלטות וממשל ארגוני.

מומחה שמכיר פרומפטים אך אינו מבין הכרה בהכנסה, תהליכי אשראי, שרשרת אספקה או הרשאות ארגוניות עלול לבנות הדגמה מרשימה שאינה שורדת עבודה אמיתית. עסקים קטנים ובינוניים פגיעים במיוחד לייעוץ כזה, משום שאין להם תמיד צוות פנימי שיזהה הנחות שגויות בזמן.

הערך העסקי: פחות זמן תרגום, יותר יכולת פעולה

בארגונים רבים, שאלה ניהולית עוברת שרשרת ארוכה: מנהל מנסח צורך, אנליסט מתרגם אותו, מהנדס נתונים מאתר מקורות, צוות אבטחה בוחן הרשאות ורק לאחר מכן נבנית תשובה. שכבה סמנטית אינה מבטלת את בעלי המקצוע האלה, אלא הופכת את הידע שלהם לתשתית הניתנת לשימוש חוזר.

הערך נוצר בכמה מוקדים:

• קיצור הזמן משאלה עסקית לתשובה שניתנת לבדיקה.
• הפחתת ויכוחים בין דוחות שמציגים הגדרות שונות לאותו מדד.
• צמצום שכפול נתונים ולוגיקה בין יישומים.
• אכיפת הרשאות באופן מרכזי ולא בכל אפליקציה מחדש.
• אפשרות להפעיל סוכנים על תהליכים קיימים בלי לחייב כל עובד לשנות לחלוטין את שגרת העבודה.

הסעיף האחרון משמעותי במיוחד. כלי AI אישיים דורשים מהעובד ללמוד הרגלי עבודה חדשים, לנסח בקשות ולבדוק תוצרים. סוכן המוטמע בתוך תהליך קיים יכול לעבוד מאחורי הקלעים, לזהות חריגה, להכין המלצה או לפתוח משימה במערכת שבה העובד כבר משתמש. מבחינה טכנית הוא עשוי להיות מורכב יותר, אך מבחינת אימוץ ארגוני הוא לעיתים פשוט יותר.

ממשל נתונים חייב לפעול לפני יצירת התשובה

אבטחה אינה יכולה להישאר מסנן שמופעל בסוף. אם המודל כבר קיבל פרטי כרטיס, מידע רפואי או נתוני שכר שאינם נחוצים, הארגון איבד שליטה גם אם המידע לא הוצג למשתמש.

בשכבת ידע מתוכננת היטב, ההרשאה משפיעה על השאילתה עצמה. משתמש בשיווק ומשתמש בצוות הונאות יכולים לשאול שאלה דומה ולקבל תוצאות שונות בהתאם לתפקיד, למטרה ולרמת הפירוט המותרת. Bedrock AgentCore או שכבת הפעלה מקבילה יכולים לנהל זהויות, הרשאות לכלים, בידוד סשנים ותיעוד פעולות.

העיקרון הנכון הוא מינימום מידע נדרש לכל משימה. הסוכן אינו מקבל גישה רחבה רק מפני שהוא מסוגל טכנית להשתמש בה. לכל כלי צריכה להיות זהות, לכל זהות הרשאה מוגדרת ולכל פעולה רישום הניתן לביקורת.

אדם בלולאה, בלי להפוך אותו לצוואר בקבוק

Agentic AI מאפשר לבצע תהליכים לא דטרמיניסטיים שבהם נדרש שיקול דעת. דווקא משום כך אדם בלולאה הוא רכיב קריטי, אך אין הצדקה לדרוש אישור אנושי לכל שאילתה או פעולה. במצב כזה הארגון משלם על אוטומציה וממשיך להפעיל את התהליך הישן.

היעד הניהולי הוא להעביר את האדם מביצוע כל מקרה לפיקוח על חריגים. עובד שטיפל בעבר בתהליך בודד צריך להיות מסוגל לפקח על מספר גדול של תהליכים, לזהות דפוסים ולהתערב רק כאשר הסיכון, אי הוודאות או ההשפעה מצדיקים זאת.

מדיניות ההסלמה יכולה להתבסס על:

• רמת ביטחון נמוכה בזיהוי הכוונה.
• סתירה בין מקורות נתונים.
• פעולה כספית או תפעולית מעל סף שהארגון הגדיר.
• בקשה החורגת מהרשאות או ממדיניות.
• תוצאה חריגה ביחס להיסטוריה העסקית.

כך האדם נשאר אחראי, בלי להפוך לחותמת ידנית על כל החלטה של הסוכן.

תהליך יישום שמתחיל במשמעות ולא במודל

פרויקט נכון אינו מתחיל בבחירת LLM. הוא מתחיל בתהליך עסקי שבו ניתן להגדיר שאלה, מקורות, בעלות, סיכון ותוצאה רצויה.

1. 01

   בוחרים החלטה עסקית

   מגדירים שאלה חוזרת עם ערך, בעל תהליך ומדד הצלחה ברור.

2. 02

   ממפים משמעות ומקורות

   מתעדים ישויות, מזהים, הגדרות עסקיות ופערים בין המערכות.

3. 03

   מקודדים מדיניות

   מגדירים הרשאות, כללי חישוב, רמות ביטחון ותנאי הסלמה.

4. 04

   מחברים סוכן וכלים

   מאפשרים גישה מצומצמת לשכבה הסמנטית ולמערכות הפעולה הנדרשות.

5. 05

   בודקים תרחישים אמיתיים

   מריצים שאלות תקינות, עמומות, עוינות וחריגות עם בעלי התהליך.

6. 06

   מודדים ומרחיבים

   משפרים לפי תוצאות עסקיות ורק לאחר מכן מוסיפים תחומים וסוכנים.

בשלב הבדיקה יש לבנות סט הערכה הכולל לא רק תשובה צפויה, אלא גם מקור נתונים, הרשאה מותרת, הסבר נדרש והתנהגות במקרה של אי ודאות. בדיקת איכות ניסוח לבדה אינה מספיקה. סוכן יכול לכתוב עברית מצוינת ולבצע חישוב שגוי.

מה צריך למדוד

מדדי מודל כמו דיוק או רלוונטיות חשובים, אך הנהלה צריכה למדוד את התהליך כולו. המדדים המתאימים תלויים במקרה השימוש, ויכולים לכלול:

• זמן משאלה לקבלת תשובה מאושרת.
• שיעור שאילתות שהושלמו ללא התערבות אנושית.
• שיעור הסלמות מוצדקות לעומת הסלמות מיותרות.
• מספר מחלוקות בין דוחות לגבי אותו מדד עסקי.
• עלות תפעולית לכל החלטה או לכל מקרה.
• שיעור תשובות שניתן לשחזר ולהסביר את מקורן.
• מספר אירועי הרשאה, חשיפה או שימוש לא תקין בכלים.

החזר ההשקעה אינו מגיע רק מחיסכון בשעות אנליסט. הוא מגיע מהפחתת טעויות, האצת החלטות ושימוש חוזר בידע ארגוני. מצד שני, שכבה סמנטית רחבה מדי עלולה להפוך לפרויקט תשתית ללא לקוח עסקי. לכן יש להרחיב אותה לפי תהליכים פעילים ולא מתוך שאיפה למפות את הארגון כולו מראש.

הפלטפורמה חשובה, אך היכולת הפנימית חשובה יותר

ארגון זקוק לפלטפורמה יעילה להקמה, פריסה וניהול של סוכני AI. היא צריכה לספק ניהול זהויות, הרשאות לכלים, תצפית, הערכה, גרסאות, עלויות ומנגנוני עצירה. עם זאת, אין מוצר שמחליף יכולת ארגונית להבין תהליכים ולהגדיר משמעות.

Claude הוא מועמד חזק להטמעה ארגונית בזכות יכולות תכנון, עבודה עם כלים וקצב פיתוח גבוה. שימוש בו מחייב בחינה רצינית של אבטחת מידע, אזורי עיבוד, שמירת נתונים והסכמים ארגוניים. מודלי הבסיס של OpenAI טובים ומגוונים, ולכן בחירת ספק צריכה להתבצע לפי המשימה, המעטפת והסיכון, ולא לפי נאמנות למותג.

בסביבת Microsoft, Copilot ו-Copilot Studio מספקים יתרון בחיבור לזהויות, ליישומים ולממשל הקיים. קצב החידושים השתפר, אף שהטמעה בארגון גדול עשויה להיות פחות זריזה מזו של ספק ממוקד. במקביל, n8n נכנס גם לסביבות ארגוניות גדולות ומאפשר אורקסטרציה גמישה. הבחירה בין הכלים אינה פוטרת מהקמת שכבת משמעות וממשל משותפת.

גם Claude Code וכלי עבודה סוכנית דומים יכולים לשפר משמעותית את עבודת צוותי הפיתוח והדאטה, אך הם אינם תחליף ל-MLOps, לבקרת קוד, להפרדת סביבות או לבדיקות. מהירות בלי משמעת הנדסית מייצרת חוב חדש מהר יותר.

מחלקת מערכות מידע תנהל כוח עבודה סוכני

ככל שמספר הסוכנים יגדל, מחלקות מערכות מידע יידרשו לתפקד במידה מסוימת כמחלקת משאבי אנוש עבור סוכני AI. הן יצטרכו לדעת מי הסוכן, מה תפקידו, לאילו כלים הוא מורשה לגשת, מי המנהל העסקי שלו, כיצד מודדים את ביצועיו ומתי מוציאים אותו משימוש.

לכל סוכן ארגוני רצוי להגדיר:

• תיאור תפקיד ותחום אחריות.
• בעלים עסקיים ובעלים טכנולוגיים.
• מקורות ידע וכלים מורשים.
• מגבלות פעולה וספי הסלמה.
• מדדי איכות, עלות ותועלת.
• תיעוד גרסאות, אירועים ושינויים.

במקביל, הארגון צריך להתקדם גם בנתיב האוריינות. עובדים ומנהלים חייבים ללמוד לתקשר היטב עם מודלים, לבחון תשובות ולהבין מגבלות. פיתוח סוכנים ללא אוריינות יוצר תלות בצוות קטן; אוריינות ללא תשתית סוכנים משאירה את הערך ברמת ניסויים אישיים.

היתרון התחרותי אינו המודל, אלא המשמעות

מודלים משתפרים ומתחלפים במהירות. ההגדרות העסקיות, הקשרים בין המערכות והידע שנצבר אצל אנשי הארגון הם נכסים יציבים יותר. ארגון שמקודד אותם בשכבה סמנטית נשלטת יכול להחליף מודל, להוסיף סוכן או לחבר מערכת חדשה בלי להתחיל מחדש את כל תהליך ההבנה.

זו גם נקודת המבחן של Agentic AI בארגון: לא האם הסוכן יודע לענות בביטחון, אלא האם הארגון יכול להסביר כיצד הגיע לתשובה, אילו נתונים שימשו אותו, אילו כללים הופעלו ומדוע הפעולה הייתה מותרת.

סוכן חכם ללא שכבת משמעות הוא ממשק נוח מעל כאוס נתונים. סוכן שמחובר לידע עסקי מנוהל יכול להפוך לתשתית תפעולית אמינה, כזו שמרחיבה שיקול דעת אנושי במקום רק לחקות אותו.