מודלים קטנים בארגונים: למה התמחות משנה את כלכלת הבינה המלאכותית
מנהלים רבים עדיין מניחים שהדרך הבטוחה לאמץ בינה מלאכותית היא לבחור במודל הגדול ביותר שהתקציב מאפשר. ההנחה הזו הייתה הגיונית בתחילת הגל הנוכחי, כי מודלי חזית הציגו יכולות רחבות, גמישות ומרשימות. אבל ככל שיישומי הבינה המלאכותית נכנסים לליבת התפעול, מתברר שהשאלה החשובה אינה מי המודל החזק ביותר, אלא מי המודל המדויק ביותר לתהליך העסקי המסוים.
מודלים קטנים ומשימתיות מדויקת בתהליכי OCR
מחקר סביב מודל DharmaOCR מציף נקודה חשובה במיוחד. מודל ייעודי בגודל של כשלושה מיליארד פרמטרים עקף שירותי API מסחריים מתקדמים במשימת OCR מובנית למסמכים בפורטוגזית ברזילאית, ובמקביל הציג עלות נמוכה משמעותית. פער העלות מול אחת החלופות הבכירות הוערך בכפי חמישים לכל מיליון עמודים. בארגון שמטפל במיליוני מסמכים בשנה, זה כבר לא שיפור טכני קטן, אלא שינוי מלא במודל ההחזר על ההשקעה.
המשמעות העסקית ברורה. כאשר המשימה מוגדרת היטב, כמו חילוץ נתונים מחשבוניות, טפסים, חוזים, מסמכי ציות או רשומות מנהליות, למודל קטן ומכוונן יש יתרון אמיתי. הוא אינו צריך לשאת ידע כללי עצום שאינו רלוונטי למשימה. הוא צריך להבין את מבנה המסמך, את השפה, את השגיאות החוזרות, את שדות המידע ואת ההקשר המקצועי.
ייעוץ AI נכון מתחיל בהתאמה התפלגותית
המושג הקריטי כאן הוא התאמה התפלגותית. מודל שמכיר מסמכים דומים לאלו שבהם הוא יופעל, בדרך כלל יבצע פחות טעויות ממודל כללי שמכיר כמעט הכול ברמה רחבה. לכן בחירת מודל בסיס אינה החלטת רכש פשוטה, אלא החלטה ארכיטקטונית. מודל כללי, מודל שהותאם לעולם OCR, ומודל שהותאם למסמכי הארגון עצמו, יתחילו מנקודות איכות שונות לחלוטין.
כאשר אנו מלווים ארגונים בתהליכים כאלה, הפער המרכזי אינו רק בבחירת הטכנולוגיה. הפער נמצא ביכולת להגדיר מבחן אמיתי. ארגון צריך לבנות סט הערכה פנימי עם מסמכים מייצגים, שדות אמת, מדדי דיוק, שיעור כשל, זמן תגובה ועלות לעיבוד. בלי זה, החלטות מתקבלות לפי שם ספק, הדגמה יפה או דירוג ציבורי שאינו משקף את המציאות התפעולית.
התייעלות תפעולית דורשת מודלים, אנשים ותהליך
בינה מלאכותית ארגונית אינה עניין טכני בלבד. כדי להחליף תהליכים שבהם יש שיקול דעת אנושי, חייבים לשלב ידע מקצועי, ניהול סיכונים ואדם בלולאה. אבל אדם בלולאה אינו יכול להפוך לצוואר בקבוק. התכנון הנכון הוא מצב שבו מומחה שבעבר בדק תהליך בודד, מפקח כעת על מאות תהליכים, מטפל בחריגים ומאמן את המערכת להשתפר.
מכאן נובעת המלצה ברורה למנהלים. אל תבנו אסטרטגיית בינה מלאכותית סביב מודל ענק אחד לכל צורך. בנו שכבת מדידה, שכבת נתונים, תשתית להקמה וניהול של מודלים וסוכנים, ומפת משימות שמפרידה בין משימות פתוחות הדורשות מודלי חזית לבין תהליכים ממוקדים שבהם מודלים קטנים ינצחו באיכות, ביציבות ובעלות. היתרון התחרותי יעבור לארגונים שלא רק צורכים בינה מלאכותית, אלא יודעים למדוד, לכוונן ולנהל אותה כמו יכולת עסקית מרכזית.
