מחיקת למידה ממודלים הופכת משאלה טכנית לדרישת ניהול סיכונים
ארגונים שמטמיעים AI כבר מבינים שהאתגר אינו רק להכניס מודל חזק לתהליך עסקי, אלא לדעת לשלוט בו לאורך זמן. לקוח מבקש למחוק מידע, רגולטור דורש הוכחת ציות, או צוות אבטחת מידע מגלה שנתון רגיש נכנס בטעות לסט האימון. ברגע הזה ההבטחה שהמודל שכח אינה מספיקה. נדרשת יכולת ביקורת שמייצרת ראיות, ולא תחושת ביטחון כללית.
מחיקת למידה ממודלים צריכה הוכחה ולא אמון עיוור
מחקר חדש של Google Research מציג מסגרת בדיקה בשם Regularized f-Divergence Kernel Tests, שמטרתה לבדוק אם מודל שעבר תהליך Machine Unlearning באמת התרחק מהמידע הרגיש. החידוש החשוב הוא שינוי נקודת המבט. לא שואלים רק אם שני מודלים מפיקים פלט דומה, אלא אם המודל שעבר מחיקה דומה יותר למודל בטוח שאומן מראש בלי הרשומה הרגישה, או למודל המקורי שראה אותה.
ההבחנה הזו קריטית. שני מודלים שאומנו על אותם נתונים יכולים להתנהג אחרת בגלל אתחול אקראי, גודל אצווה או פרמטרי אימון. בדיקה שטחית עלולה לסמן כשל במקום שבו אין סיכון אמיתי, או גרוע יותר, לפספס דליפה נקודתית שמופיעה רק בשאילתה מסוימת. בעולם ארגוני, טעות כזו יכולה להפוך להחלטת רכש שגויה, חשיפה משפטית או מדיניות פרטיות שאינה עומדת במבחן.
אבטחת מידע וסיכוני AI דורשים סטטיסטיקה תפעולית
המסגרת של גוגל משתמשת במשפחת מדדי f-Divergence, כולל KL divergence, Chi-squared divergence ו-Hockey-stick divergence. המשמעות העסקית היא יכולת לבחור בדיקה שמתאימה לסוג הסיכון. שינוי גלובלי בפלטים דורש רגישות מסוג אחד, בעוד דליפה קטנה של מידע אישי דורשת רגישות אחרת לגמרי. במיוחד מעניין השימוש ב-Hockey-stick divergence, שמתחבר לחשיבה של פרטיות דיפרנציאלית ומאפשר להגדיר תקציב סיכון במקום להתייחס לכל שינוי כאל אירוע אבטחה.
בניסויים שתוארו במחקר, השיטה הצליחה לזהות הפרות פרטיות עם פחות דגימות מגישות קודמות, ובמקרים מסוימים איתרה כשלים שכלים אחרים דרשו עבורם מיליוני דגימות. זו אינה נקודה אקדמית בלבד. אם בדיקת ספק AI דורשת מיליוני קריאות למודל, היא כמעט לא תיכנס לתהליך ביקורת שוטף. אם היא דורשת פחות דגימות ומחזירה מדד ברור, היא יכולה להפוך לחלק מצינור עבודה של אבטחת מידע, ניהול ספקים וציות.
ייעוץ AI רציני מתחיל בממשל מודלים ולא בדמו מרשים
כאשר מלווים ארגונים בהטמעת AI, רואים שוב ושוב פער בין התלהבות מהכלי לבין בשלות הניהול סביבו. AI אינו עניין טכני בלבד. הוא משלב אבטחת מידע, משפט, תהליכים עסקיים, ניהול שינוי והבנה עמוקה של אופן פעולת מודלים. לכן גם תחום כמו מחיקת למידה ממודלים אינו צריך להישאר אצל צוות המחקר בלבד. הוא צריך להיות סעיף ברור בארכיטקטורת הסיכון של הארגון.
ארגון שמפעיל מודלים על מידע רגיש צריך להגדיר מראש אילו נתונים אסור לאמן, איך מתעדים גרסאות דאטה, מי מאשר מחיקה, ואיזו בדיקה סטטיסטית נדרשת אחרי תהליך unlearning. בנוסף, מומלץ להכניס בחוזי ספקים זכות לביקורת פלטים, מדדי הצלחה למחיקה, וזמני תגובה ברורים לבקשת מחיקה. אדם בלולאה עדיין חשוב, אבל התפקיד שלו צריך להיות פיקוח על מאות תהליכי בדיקה ומחיקה, לא אישור ידני של כל אירוע קטן.
הכיוון ברור: בשלות AI ארגונית תימדד פחות בשאלה איזה מודל נבחר, ויותר בשאלה האם הארגון יודע להוכיח שליטה במודל. מנהלים צריכים לדרוש מספקי AI לא רק הצהרות על GDPR ואבטחת מידע, אלא גם שיטות מדידה, לוגים, בדיקות חיצוניות ומנגנוני מחיקה שניתנים לאימות. מי שיבנה את היכולת הזו מוקדם יוכל להטמיע AI בקצב גבוה יותר, עם פחות חסמים משפטיים ותפעוליים.
