סוכני בינה מלאכותית משנים את סיכוני הסייבר בארגונים
ארגונים התרגלו לחשוב על בינה מלאכותית בעיקר ככלי להתייעלות, שירות, פיתוח תוכנה וניתוח מידע. אבל אותה יכולת שמאפשרת לסוכן ארגוני לבצע רצף פעולות, לבדוק נתונים, להחליט מה הצעד הבא ולהפעיל מערכות, משנה גם את צד התקיפה. כאשר תוקף משתמש בבינה מלאכותית לא רק כדי לנסח פישינג אלא כדי לתזמר פעולה בתוך רשת, מודל הסיכון הארגוני משתנה מהיסוד.
סוכני בינה מלאכותית כבר פועלים מעבר לפישינג
דוח Frontier Red Team של אנתרופיק בחן 832 חשבונות שנחסמו בשל פעילות סייבר זדונית בין מרץ 2025 למרץ 2026, ומיפה אותם מול מסגרת MITRE ATT&CK. הנתון הבולט הוא שכתיבת נוזקות עדיין מובילה, עם 560 חשבונות, אך הסימן המטריד באמת נמצא בשימושים מתקדמים יותר. חמישים וארבעה חשבונות נעזרו בבינה מלאכותית לתנועה רוחבית בתוך סביבה שכבר נפרצה, שלב שבו התוקף מחפש חשבונות, הרשאות, מערכות פנימיות ונתונים רגישים.
המשמעות העסקית פשוטה וחדה: הסיכון כבר אינו רק כניסה ראשונית לרשת, אלא יכולת פעולה לאחר החדירה. בחצי השנה הראשונה של הניתוח כשליש מהשחקנים הוגדרו כבעלי סיכון בינוני ומעלה, ובחצי השנה השנייה השיעור עלה ל-56 אחוזים. זו אינה עוד עלייה סטטיסטית שולית, אלא סימן לכך שיכולות תקיפה מורכבות עוברות דמוקרטיזציה. פחות מומחיות ידנית נדרשת כדי לייצר יותר פעולות מורכבות.
אבטחת מידע בעידן ניהול סוכנים
מנהלים צריכים להבין שהבעיה אינה עצם השימוש במודל שפה. הבעיה היא הארכיטקטורה שנבנית סביבו. מודל שמקבל פקודה, מפרק משימה, מריץ בדיקות, בוחר נתיב פעולה ומחזיר המלצה להפעלה, מתנהג כבר כחלק ממכונת החלטות. לכן מדידה לפי מספר טכניקות תקיפה בלבד מפספסת את הלב של הסיכון. צריך למדוד רצפים, הקשרים, הרשאות, תדירות פעולות, חריגה מדפוסי עבודה ושימושים מצטברים בכלי בינה מלאכותית ארגוניים.
כאשר אנו מלווים ארגונים בהטמעת בינה מלאכותית, ההבחנה הזו חשובה גם בצד ההגנתי. ארגון שרוצה לפתח סוכנים פנימיים חייב גם לדעת לנהל אותם. מחלקות מערכות מידע יהפכו בהדרגה למחלקות משאבי אנוש עבור סוכני בינה מלאכותית: הרשאות, תפקידים, מדיניות פעולה, ניטור ביצועים, תיעוד החלטות ומנגנוני עצירה. אדם בלולאה נשאר עיקרון קריטי, אבל אדם אחד אינו יכול לאשר כל פעולה. התכנון הנכון הוא לאפשר למנהל לפקח על מאות תהליכים באמצעות חריגים, ספי סיכון ותצוגת שליטה ברורה.
ייעוץ AI חייב לכלול מודל סיכון חדש
ארגון שמאמץ כלי רוחב כמו Claude, סביבת Copilot או פלטפורמות אוטומציה כמו N8N צריך להתקדם בשני צירים במקביל: אוריינות עובדים ופיתוח סוכנים מנוהל. הדרכה בסיסית בפרומפטים אינה מספיקה. נדרש ידע מקצועי עמוק, הבנה תפעולית, אבטחת מידע, ממשקי מערכות ומדיניות הרשאות. תחום הבינה המלאכותית אינו עניין טכני בלבד, והוא מעניש ארגונים שמסתפקים במומחים מטעם עצמם ללא ניסיון עסקי ויישומי.
הצעד המעשי הראשון הוא מיפוי תהליכים שבהם סוכן יכול לבצע פעולה ולא רק לענות על שאלה. לאחר מכן יש להגדיר רמות הרשאה, אזורי פעולה מותרים, לוגים מפורטים, מנגנוני אישור בנקודות סיכון, ובדיקות שמזהות רצף פעולות חשוד ולא רק פקודה בודדת. במקביל, צוותי האבטחה צריכים להרחיב את השימוש במסגרת MITRE ATT&CK עם שכבת תיאור סוכנית: מי הפעיל, מה רצף ההחלטות, אילו כלים חוברו ומה היה יעד הפעולה.
הארגונים החזקים לא יהיו אלה שיחסמו בינה מלאכותית, אלא אלה שיבנו יכולת פנימית להטמעה, ניהול והגנה סביב סוכנים. תקיפות סייבר הופכות סוכניות, ולכן גם ההגנה חייבת להפוך סוכנית, מפוקחת ומבוססת ידע. מי שיתייחס לבינה מלאכותית כתוסף טכני יישאר מאחור. מי שיבנה תשתית ניהול מקצועית, ירוויח גם יעילות תפעולית וגם חוסן אבטחתי.
