ארגונים צריכים לחשוב מחדש על סוכני AI אחרי רכישת Stainless

תשתיות פיתוח לסוכני בינה מלאכותית בארגונים גדולים

תשתיות פיתוח לסוכני בינה מלאכותית בארגונים גדולים

ארגונים שמתחילים להפעיל סוכני AI מגלים מהר מאוד שהשאלה אינה רק איזה מודל לבחור, אלא איזו תשתית תאפשר לבנות, לאבטח, לנטר ולתחזק מאות תהליכים חכמים לאורך זמן. האתגר האמיתי נמצא בשכבת הכלים סביב המודל: ממשקי API, ספריות SDK, הרשאות, לוגים, בקרות קוד, סביבת פיתוח ותהליכי אישור עסקיים.

סוכני AI נשענים על תשתיות פיתוח ולא רק על מודלים

החודש פורסם כי חברת Anthropic השלימה את רכישת Stainless, סטארטאפ שבנה מחולל SDK אוטומטי עבור חברות כמו OpenAI, Google, Cloudflare, Replicate ו Runway. העסקה מוערכת ביותר מ 300 מיליון דולר, והחלק החשוב יותר הוא ההחלטה לסגור את המוצרים המתארחים של Stainless בפני לקוחות חיצוניים. המשמעות העסקית ברורה: שכבה שנראתה כמו כלי עזר למפתחים הפכה לנכס אסטרטגי בשרשרת הערך של Agentic AI. כאשר API משתנה לעיתים תכופות, SDK איכותי הוא ההבדל בין צוות שמתקדם מהר לבין צוות שמבזבז שבועות על תחזוקה, בדיקות תאימות ושבירת אינטגרציות.

המהלך של Anthropic מדגיש נקודה שמנהלים טכנולוגיים נוטים לפעמים להמעיט בערכה. פיתוח סוכנים אינו פרויקט נקודתי של פרומפטים, אלא מערכת הנדסית שבה המודל מפעיל כלים, קורא מידע, כותב קוד, מבצע פעולות ומחזיר החלטות. ככל שהסוכן קרוב יותר לתהליך עסקי קריטי, כך גדלה החשיבות של חוזי API יציבים, ניהול גרסאות, בדיקות רגרסיה, הרשאות מינימליות ואדם בלולאה שמפקח על חריגים במקום לאשר כל פעולה.

אבטחת מידע בהטמעת Claude Code וסביבות פיתוח חכמות

כלים כמו Claude Code ו Claude Co-Work מציגים כיום ערך יישומי גבוה במיוחד לצוותי פיתוח, אנליסטים ומנהלי מוצר. עם זאת, ארגון גדול אינו יכול להכניס כלי כזה בלי תכנון אבטחתי. סוכן קוד שנחשף למאגרי Git, למסמכי אפיון, לסודות תשתית או לנתוני לקוחות חייב לפעול תחת גבולות ברורים: הפרדת סביבות, סריקת סודות, חסימת שליחה של מידע רגיש, בקרה על פעולות כתיבה, שמירת Audit Trail ומדיניות ברורה לגבי שימוש במודלים חיצוניים.

פתרונות כמו AWS Bedrock יכולים לצמצם חלק מהחשש באמצעות שליטה ארגונית טובה יותר על גישה למודלים, הרשאות, רשתות, הצפנה ותיעוד. גם בסביבות Azure ו GCP קיימות יכולות דומות, וכל ארגון צריך לבחור ארכיטקטורה לפי רמת הרגישות, המגבלות הרגולטוריות והאקו סיסטם שבו הוא כבר פועל. הבחירה אינה רק בין Claude לבין OpenAI או מיקרוסופט, אלא בין מודל הפעלה מפוקח לבין אימוץ נקודתי שמייצר סיכון מצטבר.

ניהול סוכנים דורש יכולת פנימית ולא תלות בספק יחיד

כאשר אנו מלווים חברות בהטמעת AI, אנו רואים שהארגונים המצליחים אינם מסתפקים ברכישת כלי. הם בונים אוריינות AI לעובדים, ובמקביל מקימים יכולת פנימית להקמה וניהול של סוכנים. מחלקות מערכות מידע מתחילות להפוך בפועל למחלקות משאבי אנוש עבור סוכני AI: הן מגדירות תפקיד, הרשאות, מדדי הצלחה, תהליכי קליטה, ניטור ובקרה. זו גם הסיבה שכלי אוטומציה כמו N8N נכנסים לארגונים גדולים, לצד פלטפורמות כמו Microsoft Copilot Studio.

הלקח המרכזי מרכישת Stainless הוא שמי ששולט בתשתית הפיתוח שולט בקצב החדשנות. מנהלים צריכים למפות כבר עכשיו תלות ב SDK חיצוניים, לבנות שכבת אבסטרקציה פנימית מעל ספקי מודלים, להגדיר מדיניות אבטחת מידע לסוכנים, ולהכשיר צוותים שמבינים גם תהליכים עסקיים וגם הנדסת AI. תחום ה AI אינו עניין טכני בלבד. הוא דורש השכלה, ניסיון מקצועי, ניהול שינוי והבנה עמוקה של המקום שבו שיקול דעת אנושי עדיין חייב להישאר בלולאה.

2 דק׳ קריאה

מודל AI מקומי על 25 גיגהבייט זיכרון מוכיח זמינות, לא כדאיות

הניסוי של קוליברי אינו מוכיח שמודל חזית יכול לרוץ בזול על מחשב ביתי. הוא מוכיח שאפשר להחליף מחסור בזיכרון בזמן המתנה, ולהעביר את העלות מחומרת האצה אל האחסון ומשך העיבוד. מודל GLM-5.2 כולל 744 מיליארד פרמטרים ומשקלו כ-1.5 טרהבייט, אך הוא הופעל עם 25 גיגהבייט זיכרון בלבד. ההישג ההנדסי אמיתי. הכדאיות העסקית עדיין רחוקה. ארכיטקטורת MoE הופכת את האחסון לזיכרון איטי במודל המבוסס על תערובת מומחים, ארכיטקטורת MoE, כל טוקן אינו עובר דרך כל הפרמטרים. נתב פנימי מדרג תתי-מודלים מתמחים ובוחר רק את המומחים...

2 דק׳ קריאה

זיכרון AI נוירוני לא יהרוג את RAG, הוא יפריד בין ידע למצב

הוויכוח על מותו של RAG מוקדם מדי, וגם מחמיץ את הנקודה. זיכרון AI נוירוני לא יחליף את שכבת הידע הארגונית, אלא בעיקר את הצורך לבנות מחדש מצב חישובי שכבר נוצר. ההבחנה הזאת קובעת אילו תשתיות יישארו, היכן תיחסך השהיה ואילו סיכונים חדשים ייכנסו לארכיטקטורה. מערכת RAG מפרקת מסמכים למקטעים, ממירה אותם לווקטורים, שולפת התאמות ומחזירה טקסט לחלון ההקשר. המודל נדרש אז לחשב מחדש ייצוג פנימי של מידע שכבר עובד קודם. התהליך מצוין לחיפוש ראיות, אך מסורבל כשסוכן צריך להמשיך פעולה שהחלה ברכיב אחר לפני שניות...

2 דק׳ קריאה

כימות דינמי ב-SageMaker מוזיל את המודל, לא את האחריות ההנדסית

כימות דינמי ב-SageMaker הוא קודם כל מבחן למשמעת ההנדסית של הארגון, ורק אחר כך תרגיל בחיסכון בענן. נתון של כ-80% פחות בעלות לשעה נראה כמו אישור מיידי לעבור למכונה קטנה, אבל עלות נמוכה של נקודת קצה אינה מבטיחה עלות נמוכה לבקשה תקינה. תבנית צ'אט שגויה, הקשר ארוך או התרחבות איטית יכולים למחוק את החיסכון בלי לשנות אפילו משקולת אחת. כימות דינמי חוסך זיכרון באמצעות אי שוויון מכוון מודל בן 8 מיליארד פרמטרים בדיוק של 16 ביט דורש כ-16 ג'יגה-בייט רק עבור המשקולות. בכימות אחיד כל השכבות נדחסות לאותה רמת...

צור קשר

בואו נדבר על הפרויקט הגדול הבא שלכם

השאירו פרטים ונחזור אליכם. שיחת היכרות קצרה עם הצוות של KO AI, כדי להבין את התהליך, את היעד ואת הדרך הנכונה להגיע אליו.

ערוץ פניה מועדף

נחזור אליכם תוך יום עסקים אחד.

בואו נדבר

השאירו פרטים, ונחזור אליכם תוך יום עסקים אחד.

ערוץ פניה מועדף

נחזור אליכם תוך יום עסקים אחד.