היי חברים,

https://go.chatlytics.ai/r/b7OepV7

היי חברים,

אני שמח לשתף ש־NEO השלימה לאחרונה בהצלחה את סבב הגיוס Series A. 🚀

אני מלווה את הצוות מקרוב ומאמין מאוד בפתרון שהם בונים. NEO מפתחת פלטפורמת AI Security המספקת לארגונים נראות, שליטה והגנה על AI Agents, Assistants, Skills ו־MCPs בכל סביבת הארגון ( On-Prem), ומסייעת להפחית סיכוני אבטחה, ממשל ותאימות בעידן ה־AI.

אם יש כאן CISOs או מומחי אבטחת מידע שמעוניינים להכיר את הפתרון ולקבוע פגישת היכרות עם הצוות, אשמח לבצע חיבור אישי.

מוזמנים לפנות אליי בפרטי.

אני גם, אשמח לעזור למי שצריך. מה הרקע שלך?

מודלים קטנים ובינוניים (לא הרצנו מודלים ענקיים), אבל גם SLMs ייעודיים. הכל על Nvidia, לא התעסקתי עם rocm וכו'.

עד 397B

מה אתה רוצה להריץ? ומה ה-workload שצפוי לך? יש לך tennants או שזה רק משתמש אחד?

בכל מקרה מוזמן לשלוח הודעה. הדרך צריכה להתחיל מהסוף: אתה קודם כל מגדיר את המטריקות והתוצאה, והטולרנס שלך לסטיה בדיוק, לייטנסי וכו'. אח''כ אתה עושה בנצ'מרק על כמה מודלים ולוקח את המודל הכי זול/קטן/מהיר שעונה לך על הצורך. מזה אפשר לגזור את הדרישות לחומרה בקלות, או ללכת לענן אם אין לך אופציה.

אם אתה יודע שאתה מוגבל לחומרה מסוימת, אתה מראש מכניס לבנצ'מרק מודלים שאתה יכול להריץ.

למרות שיש חתיכת שוס, יצא עכשיו deepseek v4 flash 0731 שמנצח את glm בחצי מהמחיר

אתה יוכל לתת דוגמא לקטן ובאיזה מפרט?
האם זו חומרה ביתית זמינה?

אפשר לשחק עם הפרמטרים בשביל לעזור לו עם זה. או להוריד אותו מ-max ל-high.

אני לא דרך הרשמי שלהם אני על open router אני צריך ללמוד איך לעביר לו את זה , וגם לקלאו יש איזה טרנפורמציה שהוא עושה. אבל כיון בהחלט חיויבי ואני מקווה שאופן ראטר לא יעלו מחירים.

היו הכרזות של ספקים סיניים שמעלים מחיר, לא זוכר מי. נראה לי שהמחירים של החומרה גם יעלו, אז מי שרוצה להריץ דברים לוקאלית כדאי שייכנס לעניינים...

הסוילידית בדיוק צייצה שסינים התחילו לקנות זהב בבהלה

מי יודע מה זה אומר