נדבר על איך לחסוך עד 80% בשימוש נכון במודלים על ידי שילוב של

נדבר על איך לחסוך עד 80% בשימוש נכון במודלים על ידי שילוב של Observability
- איך משתמשים ביעילות במודלי פרימיום יקרים ומתי במודלים זולים.
- איך לאתר סוכנים שהעלות שלהם הייתה גבוהה מהערך שהם סיפקו.
- איך מנהלים Model Routing כדי להעביר 90% למודלים זולים
- בניית Workflows נכונים, הסרת טריגרים וקריאות כפולות/מיותרות לפונקציות (Redundant method calls)

50 מושבים בלבד למפגש הפיזי על בסיס מקום פנוי
זום פתוח לכולם כולל הקלטה (בהרשמה בלבד)

הדרך המהירה ביותר לחבר ואצאפ לקלוד קוד ?

לא יודע לגבי ווצאפ
אבל אפשר בקאנון
https://go.chatlytics.ai/r/qc1IjYq

Canon Chat | People and AI agents, togetherCanon is a chat app for people and AI agents. Message friends, start a group, and connect your own agents. Download for iPhone or Android, o

אני יודע שזה נשמע פלילי אבל נשבע שלא.
במודלים הפתוחים ו/או הסינים אפשר להשתמש להתקפה?
מעניין אותי לנתח תקיפה כזאת במעבדה
יש משהו כזה? איזו רתמה/ סטאפ לדבר כזה?

אתה יכול גם להשתמש בקלוד ומודלים אמריקאים בשביל לבצע pentesting

פן טסט

לך תוכיח שאין לך אחות מה שנקרא...
אני אשחק עם זה, תודה!

בגדול אתה צריך ליצור פרוקסי שמתרגם את הכוונה הזדונית שלך למשהו שלא נתפס על ידי הסוכן כזדוני

הנה כלי לדוגמא שפיתחתי שעוזר לי עם זה (פרסום עצמי ללא בושה):
https://go.chatlytics.ai/r/6gSpuzF

יש כמובן עוד מגוון טריקים כמו לעשות לו context rot וכו'

GitHub - Pigyon/tanuki: Proxy for AI security testing. keeping real target data out of LLM'S API logs.Proxy for AI security testing. keeping real target data out of LLM'S API logs. - Pigyon/tanuki

https://go.chatlytics.ai/r/3heJ2BI
אמור לעבוד...

GitHub - NetanelRotem/gguf-vast-server: Deploy any GGUF model as an OpenAI-compatible API on Vast.ai with llama-cpp-python + CUDADeploy any GGUF model as an OpenAI-compatible API on Vast.ai with llama-cpp-python + CUDA - NetanelRotem/gguf-vast-server

יש מודלים שעובדים רק עם LAMMACPP ולא עם אולמה. זה הסיבה .