בוקר טוב ל
https://go.chatlytics.ai/r/lcT8Fi8 בוקר טוב לכולם הקלטת הוובינר שהיה השבוע עם תמר פרץ ויערה כהן זמין לצפייה! המוטיבציה של הוובינר הזה היה להסביר את כל המונחים הבסיסיים ולהתחייס לזה כמו תוכנית לימודים שכל מי שרוצה להיכנס לתחום צריך להכיר.
היי חברים, אשמח להתייעץ לגבי ארכיטקטורת Agents. אני מפתח צ'אט-בוט מבוסס AI עבור מערכת CRM מורכבת.
האתגר המרכזי שלי הוא שילוב בין אבטחת מידע (כל נציג יכול לראות רק את המידע שלו, ההפרדה מתבצעת בקוד שלנו) לבין מענה על שאלות מגוונות בשפה טבעית.
מטרת הבוט: קריאת נתונים בלבד, שליפת מידע על לקוחות עבור הנציגים, ללא יכולת לבצע פעולות או שינויים במערכת.
המצב כיום: מקבלים שאלה -> מנתבים בעזרת מודל לנושאים Hardcoded -> פונים ל-Endpoints הנכונים -> מסגננים תשובה. זה תהליך די מסורבל שנהיה קשה לתחזוקה כשרוצים לתמוך בהרבה סוגי שאלות.
השאלה שלי, האם יש היום כלים או פריימוורקים מתקדמים יותר שמנהלים Orchestration בסגנון הזה (שמתאים למגבלות אבטחה ובידוד)? או שעדיין הדרך המומלצת ב-Use cases כאלה היא לבנות מנגנון ניתוב פנימי מאפס? אשמח לשמוע ממי שהתמודד עם בעיות דומות. תודה! 🙏
עוד שיטה היא לזרוק את כל הgeneral info לתוך embedding ולחשוף את זה ככלי
ואת הדברים שהם יותר ספציפיים הכלים אחרים
ליצור תפקידים והרשאות לסוכנים, כל סוכן יכול להשתמש בכלים מסויימים, ככה גם תימנע מריבוי כלים שמנפח את הקונטקסט, דבר שני לכתוב תיאור לכלים ולסוכנים לאיזה סוג משימות הם מתאימים. הראוטר שלך מחליט לאיזה סוכן או סוכנים להפנות את הבקשה
רוב הדאטה הוא scoped, אני כן מסתדר יחסית עם העניין של ליצור את הבידוד לכל נציג, מנסה להבין מה הדרך הטובה ביותר לנהל את הדאטה הזה לכל נציג
תוכל להרחיב? ניסית להשתמש בזה?
אני עובד עם agent core מאוד מרוצה
אם זה עובד טוב אז זה אני אשמח לשמוע
תתחיל קודם כל ביוס קייס פשוט, שני סוכנים שני סוגי תפקידים ברגע שתראה שזה עובד והבקשה מנותבת לסוכן הנכון כבר נהיה יותר פשוט להרחיב
הזהות של מי שפונה, צריך להגיע דרך שכבת האפליקציה שלך.
כלומר, הסוכן לא צריך לאכוף בעצמו את ההרשאות- אלא שכבה מעל.
שגם עם הסוכן מתבלבל - הכלי לא יכול לגשת למידע אם הוא הגיע מהיוזר הלא נגון
אבל משהו חשוב כמו שאמרו לא חייב לרוץ לAgent core אבל הכל בec2 רגיל
תלוי בכמה לקוחות אתם תומכים וכו
https://go.chatlytics.ai/r/u6ukxfu
זה סדרה של הרצאות שעשיתי לפני איזה שנה.
מוזמן להסתכל.
תחשוב על סוכנים process שרץ המערכת לא צריך להתרגש מהמילה Agent
תרגיש בנוח לפנות אם משהו לא ברור. זה ממש היה סדרה ספונטנית…
אפשר להגדיר מראש metadata לכל knowledge item שאליו נגשים בעת השאלה, ואז לעשות metadata filtering כדיי למנוע ממשתמש במחלקה X לשאול שאלה שהתשובה שלה שייכת למחלקה Y