פרטיות ב-AI: מה הדיווח על Character.AI מחייב ארגונים לבדוק
כשספק AI נסגר, נרכש או נקלע לחדלות פירעון, המידע שנמסר לו לא בהכרח נעלם איתו. האפשרות להעביר אותו תלויה בדין החל, בהסכמים, במטרות העיבוד ובהליך המשפטי. מבחינת ארגון ישראלי, המשמעות ברורה: בדיקת ספק AI צריכה לכלול גם את היום שבו מפסיקים לעבוד איתו, לא רק את יום ההטמעה.
הדיווח שנמסר על Character.AI מתאר לכאורה פשיטת רגל ואפשרות למכירת מידע משיחות משתמשים. לא צורפו אליו כאן מסמכי בית משפט או קישור למקור ראשוני המאפשרים לאמת את הפרטים, ולכן אין להתייחס אליהם כאל עובדות מאומתות. עם זאת, הסיכון שהוא מציף ממשי גם בלי להסתמך על המקרה המסוים: מידע שנצבר אצל ספק עלול להישאר שם הרבה אחרי שהקשר העסקי הסתיים.
ההבחנה הזאת חשובה. הטענה שכל הגנות הפרטיות נעלמות כשהחברה קורסת אינה בסיס מקצועי לקבלת החלטות. מנגד, גם הבטחה שיווקית שהמידע בטוח אינה תחליף לבדיקה משפטית וטכנולוגית.
השיחה היא לא רק טקסט. היא תמונת מצב של העסק
שיחה עם מערכת AI עשויה להכיל הרבה יותר מהמסמך שהועלה אליה. היא יכולה לחשוף את ההתלבטות של מנהל לפני פיטורים, את נקודת החולשה במשא ומתן עם לקוח, או את הסיבה האמיתית לדחיית עסקה.
במערכות בעלות אישיות ושיח מתמשך נוצרת לעיתים תחושת אינטימיות שמעודדת חשיפה. בארגון זה קורה גם בלי דמות וירטואלית: עובד שמקבל עזרה שימושית לאורך זמן מתחיל להתייחס למערכת כאל עמית. הוא מוסיף שמות, נסיבות ופרטי רקע כדי לשפר את התשובה, ולעיתים מוסר מידע על אנשים שמעולם לא השתמשו בשירות.
לכן השאלה אינה רק אם הספק משתמש בתוכן לאימון מודלים. צריך לברר גם מה נשמר בהיסטוריה, ביומני הפעילות, בגיבויים ובמערכות התמיכה, ולמי יש גישה לכל אחד מהם.
מדיניות שאוסרת אימון על מידע ארגוני חשובה, אבל היא אינה מדיניות מלאה לניהול המידע.
מה צריך לבדוק לפני שחותמים עם ספק AI?
לא מספיק לשאול אם המוצר מאובטח. אבטחה, פרטיות והמשכיות עסקית הן שאלות שונות: מערכת יכולה להיות מוגנת היטב מפני פריצה, ובכל זאת לשמור מידע לזמן ממושך או לאפשר העברה חוזית שלא מתאימה לצורכי הארגון.
| נושא | שאלה לספק | מה לבקש לבדוק |
|---|---|---|
| שימוש במידע | לאילו מטרות מעובד התוכן? | הסכם ותנאי המסלול |
| שמירה | כמה זמן נשמר כל סוג מידע? | מדיניות לפי רכיב |
| העברת שליטה | מה קורה ברכישה או בפירוק? | סעיפי העברה והודעה |
| מחיקה | מה נמחק ומה נשאר? | היקף, חריגים ולוחות זמנים |
| יציאה | איך ממשיכים בלי השירות? | ייצוא ותוכנית מעבר |
התשובות צריכות להתייחס למסלול ולתצורה שנרכשו בפועל. חשבון אישי, סביבת עבודה ארגונית ושימוש באמצעות API אינם בהכרח כפופים לאותם תנאים. גם שם מוכר או ספק מועדף אינם פוטרים מבדיקה.
לארגונים בישראל נדרשת בחינה של חוק הגנת הפרטיות, תקנות אבטחת המידע והכללים הרלוונטיים להעברת מידע לחו״ל. לפי הפעילות עשויות לחול גם דרישות ענפיות או דינים זרים. עצם הבחירה בשירות המשווק כתואם GDPR אינה משלימה את הבדיקה.
סוכני AI מחייבים מפת מידע, לא רק רשימת כלים
כלי שיחה מקבל בדרך כלל את מה שהעובד מזין. סוכן עשוי לקבל הרשאות לקריאת דואר, לשליפת נתוני לקוחות ולכתיבה במערכות תפעוליות. כשהוא מחובר לכמה מערכות, המידע עלול להישמר בכמה מקומות: אצל ספק המודל, בפלטפורמת התזמור, בכלי הניטור ובמסד הנתונים הארגוני.
זה לא נימוק להימנע מסוכנים. זה נימוק לבנות יכולת פנימית לניהולם. הערך התפעולי גדל כאשר הסוכן מקבל את המידע הדרוש להשלמת המשימה, ולא גישה גורפת לכל מה שאפשר לחבר.
ממפים את מסלול המידע
מתעדים איזה מידע יוצא מכל מערכת, לאיזה ספק הוא מגיע והיכן הוא נשמר.
מצמצמים לפני השליחה
מסירים פרטים מזהים ומגבילים את ההקשר למה שנדרש לביצוע המשימה.
מגדירים הרשאות ושמירה
קובעים גישה לפי תפקיד ותקופות שמירה בהתאם לצורך עסקי ולחובות הדין.
בונים מסלול יציאה
מתכננים ייצוא, מחיקה, ביטול הרשאות והחלפת ספק בלי לשתק את התהליך.
מתרגלים ומוודאים
בודקים שהייצוא שימושי, שהחיבורים נותקו ושהמחיקה בוצעה בהיקף שהובטח.
הסדר כאן מכוון: קודם מבינים את התהליך העסקי ואת רגישות המידע, ורק אחר כך בוחרים את ההגדרות הטכניות. ידע עמוק ב-AI, ניסיון תפעולי והבנה משפטית צריכים להיפגש באותו דיון. הדגמה מוצלחת של סוכן אינה הוכחה לתשתית ארגונית יציבה.
אדם בלולאה, אבל לא בכל הודעה
הפתרון אינו להעביר כל אינטראקציה לאישור ידני. כך מבטלים חלק גדול מההתייעלות שבגללה הוטמע הסוכן מלכתחילה.
עדיף להגדיר מדיניות שמבחינה בין שגרה לחריגה. עיבוד מידע מצומצם ומאושר יכול להתבצע אוטומטית. ניסיון להעביר מידע רגיש ליעד חדש, הרחבת הרשאות או שינוי מהותי בתנאי הספק צריכים להפעיל עצירה ובדיקה אנושית.
לצד הבקרות הטכניות נדרשת אוריינות עובדים. העובד צריך לדעת לא רק לנסח בקשה טובה למודל, אלא גם לזהות איזה מידע אסור לכלול בה. אלה שני מסלולים משלימים: שימוש אחראי בכלים והקמת סוכנים מנוהלים.
למחוק חשבון זו פעולה, לא הוכחה שהמידע נעלם
מחיקת חשבון עשויה להיות צעד נכון כשמפסיקים להשתמש בשירות, אבל אסור להניח שהיא מוחקת מיד כל עותק. ייתכנו גיבויים, חובות שמירה חוקיות או חריגים אחרים. גם השפעת המחיקה על מידע שכבר שימש לאימון אינה דבר שאפשר להניח מראש.
לפני מחיקה יש לבדוק גם אם הארגון נדרש לשמר רשומות מסוימות. המטרה אינה למחוק הכול באופן עיוור, אלא להפסיק שמירה מיותרת בלי לפגוע בחובות תיעוד ובהמשכיות העסקית.
השאלה שההנהלה צריכה לשאול עכשיו
בישיבת ה-AI הקרובה כדאי לבקש תשובה לשאלה אחת: אם הספק המרכזי שלנו מפסיק לפעול מחר, האם אנחנו יודעים היכן המידע, מי רשאי להחזיק בו ואיך ממשיכים לעבוד?
אם התשובה תלויה בזיכרון של עובד אחד או בהבטחה של איש מכירות, חסרה שכבת ניהול. האחריות צריכה להיות משותפת למערכות מידע, אבטחת מידע, משפטים ולבעל התהליך העסקי.
לא צריך להמר על קריסת ענף ה-AI כדי להצדיק את ההשקעה הזאת. ספקים נרכשים, מוצרים נסגרים ותנאים משתנים גם בשוק בריא. ארגון שמנהל נכון את המידע ואת התלות בספקים יכול לאמץ AI בביטחון רב יותר, ולהפיק ממנו ערך בלי למסור בדרך שליטה מיותרת בנכסים שלו.
