‏📋 סיכום יומי — 28 באוגוסט 2026 ‏היום התחיל בחצות עם סוכנים

‏📋 סיכום יומי — 28 באוגוסט 2026

‏היום התחיל בחצות עם סוכנים והמשיך בחצות עם סוכנים — הקהילה הזאת פשוט לא ישנה. ‏דיון אחד על אורקסטרציה של סוכנים התפוצץ לשלל שרשורים טכניים שכל אחד מהם היה יכול להיות פוסט בלוג עצמאי.

‏📌 מה דובר היום:

‏Claud Command Center — האורקסטרטור של Amir:
‏Amir (The Real Amir) הציג את המערכת שבנה: אורקסטרטור דטרמיניסטי לסוכנים, אפס קריאות LLM — הוא קורא סשנים ישירות מה-transcript בדיסק ומה-SQLite של Codex/Devin. ‏קוד פתוח תחת Amirfish1/claud-command-center. ‏Tom Bar Haim אתגר את הרעיון מראש בטענה שצריכת הטוקנים מזנקת פי 5 במערכות שליטה כאלה, אבל Amir הבהיר שהמערכת לא מנהלת את הסשנים — רק מנטרת אותם ומאפשרת להם לתקשר. ‏"הפקודות עובדות מכל טרמינל — להתחיל סשן בכל מודל, לשאול שאלה, או להעביר ידע." ‏רון שאל לגבי guardrails ו-loops — התשובה: המערכת מנטרת בלבד, הסשן הראשון בדרך כלל לוקח את תפקיד המארגן. ‏ההתלהבות של טלחיים ("מגניב! ‏עושה חשק לנסות") שיקפה את התגובה הכללית.

‏בטיחות סוכנים — חששות, Sandboxing ו"לגדל קלו":
‏Meshi Oren פתחה דיון חשוב: "OpenClaw — לא מפחיד אתכם שאין באמת שליטה, בניגוד לאייג'נטים כמו קלוד?" ‏נתנאל שיתף ניסיון של חצי שנה עם כמה Claw-ים במקביל, כולל ננו-קלו בהרשאות מהודקות. ‏ההמלצה שלו: "לגדל קלאו זה אומנות כמו טמגוצ'י — אתה מגלה על עצמך, לומד המון, ונקשר. ‏לפעמים צריך וטרינר." ‏Rafael סיפק גישה מעשית: להריץ persistent autonomous agents ב-sandbox, VM, או אפילו Raspberry Pi ישן. ‏"הסוג הזה של סוכנים נקרא persistent autonomous agents. ‏לא חייב מכשיר חזק." ‏ההמלצה הגורפת: להפריד הרשאות, להוציא execution למקום שהסוכן לא יכול לגעת, ו-human in the loop חובה. ‏דיון מקביל על סלאק ו-Signal כערוצי תקשורת בטוחים לסוכנים אישיים (במיוחד להורים — "שלא יפלו על ערוצי חדשות וייכנסו ללחץ").

‏ה-SDLC Pipeline של טלחיים עובר גריל:
‏טלחיים תיאר Dynamic workflow עם 7+ סוכנים: סוכן spec, סוכן תכנון (אופוס), סוכן ביקורת תכנון, סוכן כתיבת קוד (סונט), שני סוכני ביקורת קוד (התאמה ל-spec ואבטחה), PR review עצמאית, ו-E2E. ‏ואז — טוויסט: הסוכן של טל ("פאבל") נשלח לעשות grill של הקוד מול הטענות. ‏התוצאה: 9 מ-10 נקודות ממומשות כקוד — validation loops, spec review כפול, TDD אמיתי (טסטים לפני קוד), staging נפרד, redundancy חכם, handover אנושי מוגדר, context מלא בין שלבים, ו-token economics עם ראוטינג סונט/אופוס. ‏הפער היחיד: אין perf review ייעודי. ‏פאבל סיכם: "רובם לא כהנחיה לסוכן אלא כקוד שאוכף — caps, gates וניתוב הם של הסקריפט."

‏Directional Steering — לתקן מודלים בלי לאמן:
‏Noam Salit זרק שאלה על Heretic (כלי ל-steering). ‏Rafael הסביר בפשטות: "אפשר להשפיע על התנהגות של מודל בלי אימון נוסף — מזהים כיוונים וקטוריים של תכונות ב-latent space ופשוט מחסרים אותם מה-Residual Stream בזמן ג'ינרוט." ‏בדוגמה שעשה, הוריד תכונת ריצוי ממודל קטן — "שילמתי כמעט אפס בירידת ביצועים, אבל המודל מתנגד הרבה יותר טוב לפרומפטים שמנסים לשכנע אותו במשהו לא נכון."

‏MiniMax H3 — וידאו ג'נריישן לוקאלי על Mac:
‏Roy הראה תוצאות מ-MiniMax-H3-FL2VA-8bit על M5 Pro 48GB: "24 דק', peak memory 34.7GB, התוצאה די נקייה." ‏לא השקיע יותר מדי בפרומפט — "תמונה אחת והקלטה קצרה." ‏Rafael הוסיף ניסיון על Nvidia: "יכול לעזור עם turbo lora, טכניקות מצלמה, latent upscaler."

‏Bang for Buck — Gemini 3.7 Flash:
‏Amir שיתף: "העליתי מהאוב את Gemini 3.7 Flash — לא רע בכלל! ‏וגם מהיר. ‏לגמרי שווה לאמץ כאחד המודלים הזולים." ‏אור גולדברג: "אצלי הוא השכבה שמדברת איתי בוואטסאפ, אחלה מודל." ‏הדיון גלש לבדיחה על "WE" — "גוגל, קליפורניה born... ‏המנהל מוצר הג'וניור שלא רצה להיות מפוטר והלך על בטוח."

‏🔗 משאבים ששותפו:

‏- Claud Command Center (Amirfish1/claud-command-center) — אורקסטרטור דטרמיניסטי לסוכנים, קוד פתוח
‏- JFrog Boost (boost.jfrog.com, github.com/jfrog/boost) — אופטימיזציית טוקנים ומהירות לסוכנים, חינמי. ‏Yahav Ohana הציג וקיבל פרגונים מ-Omer Levy ו-Matanel Dvorkin
‏- Orca — פלטפורמה להרצת אייג'נטים עם דפדפן מובנה, אמולטורים, ותקשורת בין סוכנים (המלצה חמה של Uri Rozen)
‏- Metronix Memory (github.com/mtrnix/metronix-memory) — memory layer בקוד פתוח מ-David Oren, עם temporal graph, הרשאות, ו"שכחה"
‏- Boost Slack קהילה — join.slack.com/t/boost-0wl2605
‏- מחקר על LLM as a Judge — Andrey שיתף LinkedIn post קריטי למי שמשתמש במודל כ-judge

‏💬 יום שישי, וכרגיל — הקהילה הזאת מייצרת יותר תוכן טכני ב-24 שעות ממה שחברות שלמות מייצרות בספринט. ‏מי אמר שסופ"ש זה למנוחה?

‏---
‏רוצים להעמיק בנושא שעלה? ‏שלחו לי הודעה פרטית ואני אחפור 🔍

אני ניסיתי לאחרונה Qwen 27b מאקבוק פרו m4 וזה לא באמת עובד. הסטאפ אצלי מבטיח omlx ו dflash2

מגניב מאד. ועם מה אתה מריץ את זה? vllm? איזה הארנס?

Omlx

https://go.chatlytics.ai/r/bm9wWvc

GitHub - jundot/omlx: LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu barLLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar - jundot/omlx

אנסה ואדווח, תודה רבה

שלחו לי בפרטי על mtplx, ההצעה שלי יותר חזקה (למודלים שיש להם dflash2, ועדיין זה לא באמת עובד 🙃). אשמח לשמוע!

@211562170159235 אתה יכול לתרגם/לפשט ולהסביר את המושגים שירון ודן השתמשו בהם לדיון של הרצת מודל מקומית?

שי, הדיון של דן וירון די קצר — הנה פישוט:

דן שאל:
"יש לי Mac M2 עם 96GB RAM. יש מודל לוקאלי שיכול להתמודד עם פרויקט גדול כמו אופוס/פייבל? ניסיתי Qwen 3B — היה בינוני."

ירון ענה:
"ניסיתי Qwen 28B על MacBook Pro M4 — לא באמת עובד. הסטאפ שלי מבוסס על OMLX ו-dflash2."

דן: "עם מה אתה מריץ? vllm? איזה הארנס?"
ירון: "OMLX" (שלח לינק: github.com/jundot/omlx)

ועכשיו בעברית פשוטה — מה זה כל מושג:

- OMLX — מנוע הרצת מודלים ייעודי ל-Mac (Apple Silicon). כמו vllm, אבל מותאם ספציפית לשבבי M. github.com/jundot/omlx (ירון)
- dflash2 — טכנולוגיה להאצת מודלים. "מנחש" טוקנים ומקצר זמן תגובה. כמו turbo למודל. (ירון)
- MTPLX — Multi-Token Prediction — טכניקה שבה המודל מנבא כמה טוקנים בבת אחת במקום אחד-אחד. מישהו המליץ על זה לירון בפרטי. (ירון)
- vllm — מנוע הרצת מודלים. הכי נפוץ, אבל בעיקר ל-Nvidia (דן)
- Harness — השכבה שיושבת מעל המודל: קלוד קוד, קודקס, OpenCode. לא המודל עצמו, אלא המעטפת שנותנת לו כלים. (דן)
- Qwen 3B / 28B — B = מיליארד פרמטרים. 3B = קטן (כמו אופניים), 28B = בינוני (כמו קטנוע), אופוס = מעל 1,000B (כמו משאית). דן ניסה 3B — חלש מדי. ירון ניסה 28B — עדיין לא מספיק לפרויקט גדול. (שניהם)

בשורה התחתונה (שורה אחת): Mac, אפילו עם 96GB, עדיין לא מחליף אופוס/פייבל לפרויקטים מורכבים. 🔍