פיתוח אייג׳נטים הפך לחלק מרכזי בבניית מוצרים טכנולוגיים, אך לצד הפוטנציאל הגדול, צוותי פיתוח רבים נתקלים בקשיי אמינות ובעלויות גבוהות. כדי לגרום לאייגנט לבצע משימות מורכבות, הנטייה הטבעית היא להעמיס עליו כמה שיותר מידע, הנחיות היסטוריות וכלים בתוך קונטקסט אחד גדול. דורון בלייברג, Solutions Architect ב-AWS, הציג בכנס האחרון שלנו -The Third Wave את הבעייתיות בגישה הזו ומסביר כיצד ארכיטקטורה לא נכונה של ניהול קונטקסט פוגעת בביצועים של מודלי שפה, מגדילה עלויות ומייצרת תסכול בתהליך הפיתוח.

בפרק, דורון מדבר על ארבעה עקרונות מעשיים לבניית אייג׳נטים אמינים וכלכליים יותר באמצעות ניהול חכם ומניעתי של תשומת הלב של המודל.

See omnystudio.com/listener for privacy information.

במהלך עבודה בצוות גדול על מוצר, המון מידע קריטי הולך לאיבוד בשיחות מסדרון, בוואטסאפ ובסיכומי פגישות מבוזרים. סער ארבל, Software Engineer Group Lead במאנדיי, מסביר בפרק איך הצוות שלו החליט לאסוף את כל ה-"Shadow Data" הזה ולבנות "Brain", מוח ארגוני שמאגד את כל הקונטקסט של העבודה ומשרת את המפתחים, המעצבים ואנשי המוצר ביום-יום.

הבעיה עם פתרונות שהיו קיימים עד כה היא שהם סטטיים ולא באמת שומרים על זיכרון דינמי שמתעדכן מדאטה חדש ושומר על הקונטסקט. בהשראת פרויקט של אנדריי קרפטי, סער והצוות שלו פיתחו ״וויקי״ דינמי בגיטאהב שמתעדכן לבד אחרי כל פגישה ומייצר סינכרון מלא של כל שכבת הקונטקסט, מהלך שדרש מהצוות לעבור שינוי תפיסתי עמוק ולהתרגל לשקיפות מוחלטת שבה הידע של כולם נגיש לכולם.

המוח המשותף הזה שינה לחלוטין את קצב העבודה: משימות מורכבות כמו בניית מצגות אסטרטגיות התקצרו משבועות לשעות ספורות, וקמפיינים שיווקיים מנוהלים כיום כמעט לבד על בסיס הקונטקסט הזה.

See omnystudio.com/listener for privacy information.

קצב ההתפתחות של ה-AI הפך להיות כל כך מהיר, שהכלים משתנים כמעט כל שבוע וחברות תוכנה פשוט לא יכולות להרשות לעצמן לשבת על הגדר ולחכות שהשוק יתייצב. כדי לרוץ בקצב הזה בלי לזעזע את מוצר הליבה, הקימו במאנדיי את ה-Agent Labs, מגרש משחקים פנימי וקטן שנועד לבחון אייג׳נטים בזמן אמת ולאפשר לחברה להישאר בחזית הטכנולוגיה.

בפרק השבוע דריה ורטהיים מארחת את רועי מן, מנכ״ל משותף במאנדיי, ואור מי-פז שמוביל את הפרוייקט, לשיחה על המודל שמאפשר לארגון גדול להתנהג כמו סטארטאפ רזה, לזהות סיגנלים מוקדמים מהשוק ולגלות איפה נמצאות ההזדמנויות הבאות.

בפרק אור ורועי מדברים בין היתר על העובדה שמודלי AI כבר מקבלים בפועל סביב 80% מהחלטות הפיתוח והעיצוב הקטנות, והתחזיות מראות שתנועת האייג'נטים ברשת עומדת לעקוף את זו של בני האדם ממש בקרוב. השינוי הזה מאלץ חברות לשאול שאלה קשה: איך מכינים מוצר לעולם שבו הלקוח שמבצע את הרישום ומקבל את ההחלטות הוא בכלל מודל, ואיך מייצרים תרבות שמאפשרת לצוותים לרוץ קדימה ולטעות מבלי לסכן את החברה?

כדי לפצח את האתגרים השונים, ה״מעבדה״ מתפקדת כמו מפעל ליוזמות שבו הכל מתחיל מצוותים רזים של שני אנשים שפשוט רוצים לפתור בעיות שהם נתקלו בהן בעצמם. בפרק הם מציגים את הפרויקטים שכבר נולדו, ומסבירים איך הצורך הפנימי של העובדים הפך למוצרים עם יוזרים משלמים. השאיפה קדימה היא להמשיך להרחיב את הפרוייקט כדי למצוא את המוצר הבא של החברה, מתוך הבנה שהדרך היחידה להגיע לשם היא לבנות מנגנון שמאפשר לטעות כמה שיותר מהר, לסגור בזמן את מה שלא עובד ולרוץ עם מה שכן.

See omnystudio.com/listener for privacy information.