אופטימיזציה מתמטית עם סוכני AI דורשת יותר מפרומפט טוב

מנהלים מנתחים אופטימיזציה מתמטית עם סוכני בינה מלאכותית

ארגונים רבים מגלים שהפער בין הדגמת AI מרשימה לבין פתרון תפעולי יציב נפתח דווקא במקום שבו הכסף נמצא: תכנון מלאי, הקצאת משאבים, מסלולי הפצה, ייצור ושיבוץ עובדים. מנהל מבקש למזער עלויות, מודל שפה מחזיר קוד יפה, ואז מתברר שחסרות קיבולות, חריגות שירות, עלויות פתיחת אתר, אילוצי רגולציה והיגיון עסקי שלא נכתב בשום קובץ.

אופטימיזציה מתמטית אינה מתחילה בקוד

מערכת ORPilot, פרויקט קוד פתוח שפותח על ידי גואנגרוי שיה, מציגה כיוון נכון יותר לעולם הזה. במקום להניח שהפרומפט מכיל את כל הידע, היא פועלת כסוכן רב שלבי: מראיינת את המשתמש, מגדירה סכמות נתונים, גוזרת פרמטרים, מייצרת מודל פתרון, מריצה אותו, מתקנת כשלים ומסבירה את התוצאות בשפה עסקית. זו נקודה מהותית, כי בעיית אופטימיזציה אמיתית אינה תרגיל מחברת. היא יכולה לכלול מאות אתרים, אלפי מוצרים, עשרות תקופות תכנון ומיליוני ערכי ביקוש.

מודלי LLM טובים בזיהוי תבניות ובהפקת קוד, אבל הם אינם תחליף אוטומטי למחקר תפעולי, הנדסת נתונים ושיפוט ניהולי. כאשר הארגון מחזיק קואורדינטות GPS והמודל צריך מטריצת מרחקים, או כאשר קיימות עסקאות פרטניות והמודל צריך ביקוש חודשי מצטבר, עיקר העבודה נמצא בתרגום הנתונים לפרמטרים מתמטיים. שם נולדות רוב הטעויות היקרות.

סוכני AI צריכים לעבוד כמו תהליך הנדסי

העמדה שלנו ברורה: AI ארגוני אינו עניין טכני בלבד. הטמעה טובה דורשת הבנה מקצועית של התהליך, ניסיון עסקי, יכולת ניהול שינוי וידע עמוק במודלים. סוכן שמייצר קוד בלי לשאול שאלות הוא סיכון תפעולי. סוכן שמפרק בעיה לשלבים, מתעד הנחות, בודק נתונים ומחזיר חריגים לאישור אנושי יכול להפוך לתשתית עבודה אמינה.

אדם בלולאה נשאר קריטי, אבל צריך להגדיר אותו נכון. המטרה אינה שמנהל יאשר כל שורה בקוד או כל אילוץ קטן. המטרה היא שאותו מנהל שבעבר הפעיל תהליך אחד יפקח על עשרות או מאות ריצות, יקבל התרעות על חריגים, יאשר הנחות עסקיות משמעותיות ויבחן תוצאות מול מדדי שירות, עלות וסיכון. כך AI מייצר התייעלות תפעולית אמיתית ולא רק תחושת חדשנות.

התייעלות תפעולית מתחילה בתשתית נתונים ואחריות

מנהלים שרוצים להכניס אופטימיזציה מבוססת AI צריכים להתחיל בשלושה צעדים מעשיים. ראשית, למפות את ההחלטות החוזרות שבהן יש עלות גבוהה לשיקול דעת ידני, למשל תכנון משלוחים יומי או הקצאת מלאי בין מחסנים. שנית, לבנות מילון נתונים שמגדיר יחידות מידה, זמני עדכון, איכות נתונים ובעלי אחריות. שלישית, להקים סביבת הרצה מבודדת עם בדיקות תקינות, השוואה לפתרונות עבר וספי עצירה כאשר התוצאה חורגת מהיגיון עסקי.

מערכת ORPilot חשובה כי היא מזכירה לשוק שהעתיד אינו מודל יחיד שמנחש תשובה, אלא תהליך סוכני ממושמע שמחבר בין נתונים מבולגנים, מודלים מתמטיים ואחריות ניהולית. ארגון שיבנה יכולת פנימית להקמה וניהול של סוכני AI ירוויח יתרון תחרותי משמעותי, במיוחד בתחומים שבהם החלטה טובה יותר באחוזים בודדים מתורגמת למיליוני שקלים בשנה.

2 דק׳ קריאה

מודל AI מקומי על 25 גיגהבייט זיכרון מוכיח זמינות, לא כדאיות

הניסוי של קוליברי אינו מוכיח שמודל חזית יכול לרוץ בזול על מחשב ביתי. הוא מוכיח שאפשר להחליף מחסור בזיכרון בזמן המתנה, ולהעביר את העלות מחומרת האצה אל האחסון ומשך העיבוד. מודל GLM-5.2 כולל 744 מיליארד פרמטרים ומשקלו כ-1.5 טרהבייט, אך הוא הופעל עם 25 גיגהבייט זיכרון בלבד. ההישג ההנדסי אמיתי. הכדאיות העסקית עדיין רחוקה. ארכיטקטורת MoE הופכת את האחסון לזיכרון איטי במודל המבוסס על תערובת מומחים, ארכיטקטורת MoE, כל טוקן אינו עובר דרך כל הפרמטרים. נתב פנימי מדרג תתי-מודלים מתמחים ובוחר רק את המומחים...

2 דק׳ קריאה

זיכרון AI נוירוני לא יהרוג את RAG, הוא יפריד בין ידע למצב

הוויכוח על מותו של RAG מוקדם מדי, וגם מחמיץ את הנקודה. זיכרון AI נוירוני לא יחליף את שכבת הידע הארגונית, אלא בעיקר את הצורך לבנות מחדש מצב חישובי שכבר נוצר. ההבחנה הזאת קובעת אילו תשתיות יישארו, היכן תיחסך השהיה ואילו סיכונים חדשים ייכנסו לארכיטקטורה. מערכת RAG מפרקת מסמכים למקטעים, ממירה אותם לווקטורים, שולפת התאמות ומחזירה טקסט לחלון ההקשר. המודל נדרש אז לחשב מחדש ייצוג פנימי של מידע שכבר עובד קודם. התהליך מצוין לחיפוש ראיות, אך מסורבל כשסוכן צריך להמשיך פעולה שהחלה ברכיב אחר לפני שניות...

2 דק׳ קריאה

כימות דינמי ב-SageMaker מוזיל את המודל, לא את האחריות ההנדסית

כימות דינמי ב-SageMaker הוא קודם כל מבחן למשמעת ההנדסית של הארגון, ורק אחר כך תרגיל בחיסכון בענן. נתון של כ-80% פחות בעלות לשעה נראה כמו אישור מיידי לעבור למכונה קטנה, אבל עלות נמוכה של נקודת קצה אינה מבטיחה עלות נמוכה לבקשה תקינה. תבנית צ'אט שגויה, הקשר ארוך או התרחבות איטית יכולים למחוק את החיסכון בלי לשנות אפילו משקולת אחת. כימות דינמי חוסך זיכרון באמצעות אי שוויון מכוון מודל בן 8 מיליארד פרמטרים בדיוק של 16 ביט דורש כ-16 ג'יגה-בייט רק עבור המשקולות. בכימות אחיד כל השכבות נדחסות לאותה רמת...

צור קשר

בואו נדבר על הפרויקט הגדול הבא שלכם

השאירו פרטים ונחזור אליכם. שיחת היכרות קצרה עם הצוות של KO AI, כדי להבין את התהליך, את היעד ואת הדרך הנכונה להגיע אליו.

ערוץ פניה מועדף

נחזור אליכם תוך יום עסקים אחד.

בואו נדבר

השאירו פרטים, ונחזור אליכם תוך יום עסקים אחד.

ערוץ פניה מועדף

נחזור אליכם תוך יום עסקים אחד.