> ## Content Index
> Fetch the complete content index at: https://aiagents.chatlytics.blog/llms.txt
> Use this file to discover other available public pages before exploring further.

# @211562170159235 יש לנו כבר פירוט ארכיטקטוני מלא סביב איך je
- URL: https://aiagents.chatlytics.blog/t2b76d6c3/
- Published: 2026-09-19T16:03:12.000Z
- Updated: 2026-11-02T20:49:48.000Z
- Description: @211562170159235 יש לנו כבר פירוט ארכיטקטוני מלא סביב איך jev עובד? הכוונה היא לארכיטקטורת מודל כמו הllm של גוגל ב2017
- Author: Omer Nesher
- Tags: Yoav Shotland, RomBot, Nick Minaev, Peri Akiva, Chambul, ofekron89, Eran, Shay, Efi P, טלחיים דמרי, Amir, Noam Salit, Yotam Fromm, Yogev

2026-09-19

Yoav Shotland

@211562170159235 יש לנו כבר פירוט ארכיטקטוני מלא סביב איך jev עובד? הכוונה היא לארכיטקטורת מודל כמו הllm של גוגל ב2017

@211562170159235 מה יודעים בוודאות על פי היוצרים ולפי השימוש?

16:05

RomBot

‏📋 סיכום יומי — 19 בספטמבר 2026

‏הימים האחרונים הזכירו את הימים הראשונים של GPT-4: דור שלם של מפתחים קיבל צעצוע חדש, והאינטרנט מלא בניסויים, ויכוחים, ומאמר אחד מצוין של גלעד שהם. ‏השם על כולם: Jev.

‏📌 מה דובר היום:

‏**Jev של TypeSafe AI — הגל השני של ההייפ.** המודל שהתפוצץ אתמול המשיך לשלוט בשיח. ‏ערן שיתף ניסוי לילי שבו הסוכן Instinct שלו נרשם לבד ל-early access, חיכה בתור, פתח חשבון, והריץ בנצ׳מרקים — 96ms חציון להחלטה מובנית, 305ms ל-100 שאלות, עלות של $0.0002\. ‏יונתן גרוס דיווח על יחס מחיר של 1/116 לעומת LLM עם אותה דיוק ופי 11 במהירות. ‏אמיר ("The Real Amir") העלה תזה מעניינת: Jev יגרום לזינוק של פי 100 בשימוש ב-LLM בתוך אפליקציות, כי כשהמחיר והלטנסי צונחים — פתאום הכל מצדיק קריאה חכמה. ‏אור מאירוב הזכיר נקודה קריטית: LLM לא באמת נותן הסתברויות, הוא הוזה מספר — Jev מאומן אחרת, וזה ההבדל המהותי. ‏גלעד שהם פרסם מאמר טכני מעמיק בעברית שמפרק את הטרייד-אופים, ומייק E כתב פוסט מפורט על מה שידוע ומה שלא על המודל. ‏יונתן גרוס גם סיכם 3 ימי שימוש אישיים. ‏יריב הציע חזון של "מיקרוסרביסים של מודלים" — פירוק המונוליט של ה-LLM למומחי דומיין זולים, ו-Jev כצעד ראשון בכיוון. ‏ניק מינאייב מחכה לגרסת open-weight. ‏נדב סיכם את השבוע: "ג'ב, דיפסיק חדש, בונסאי, קלוד קוד מאוחד, Qwen 3.8 Omni, והפריצה ל-OpenAI."

‏**Instinct — ההתמכרות הלאומית החדשה.** קורל כהן הכריזה "אני מכורה" וחרדה מהרגע שיתחילו לגבות תשלום. ‏חג שיתף שימושים יצירתיים: ניקוי מייל בוקר, הזמנת קניות שבועית, סינון לינקדאין, ומכירת רכב במרקטפלייס — כולל התכתבויות. ‏עידו שיתף ארכיטקטורה של תיבת מייל נפרדת לסוכן לצורך תכנון טיולים, עם שליטה מלאה על התקשורת. ‏חג גם לימד את Instinct להתחבר ל-VPN — זהר עדיין נאבק עם החסימה בסביבה המנוהלת. ‏שאול שיתף על אוטומציה בלינקדאין עם קלוד: בניית רשימות, שליחת חיבורים ו-InMail. ‏גיא B העלה תהייה על הפרטיות — "איך זה הגיוני לתת גישה לכל מייל שאי פעם שלחו לך?" ‏דרור ענה: "זה לא, אבל YOLO 😉". ‏רום העלה שאלה תאורטית: מה הערך של חיבור רומבוט ל-Instinct? ‏הקהילה הציעה חיסכון בטוקנים, אבל אתגר של 4,000+ משתמשים על תשתית חינמית.

‏**בונסאי 2 27B — הסוס השקט של השבוע.** נדב הכריז שזה "הדבר הכי חשוב שקרה, יותר מ-Jev" — מודל קטן עם יכולות computer use מטורפות. ‏ניצן מגדל שיתף לינק וקרא לזה "נראה סוטה". ‏אורי רוזן מחפש את הראשון שינסה אותו מקומית עם LMStudio על מאק רגיל.

‏**פייבל + SWE של Devin — יותר זול מאופוס.** אמיר שיתף כתבה של Cognition: הרצת SWE2 עם פייבל 5 יוצאת יותר זול מאופוס 4.8\. ‏אלכס גרינשפון, שמשתמשת בדווין בקביעות, הסבירה: במנוי הבסיסי ב-$20 מקבלים SWE2 (דיסטילד של Kimi K3) ו-GLM 5.2 בחינם ללא הגבלה — אפילו אחרי שהמכסה נגמרת. ‏אורי ציין ש-SWE נוטה קצת להתברבר, אבל "בהינתן שהוא חינם, הוא מצוין".

‏**חמישיית הריפואים החדשים.** אוז לוי חשף הקלטה שתומללה ע"י יואב יחיאם: 5 פרויקטי אופן-סורס טריים שכל אחד תוקף שכבה אחרת בעולם הסוכנים — Octo (בית לסוכנים מרובי-משתמשים), Talos (קרנל הרשאות דטרמיניסטי), Anmiut (קומפיילר מ-YAML/Markdown לסוכן קולי), Overlord (hypervisor עם commit/rollback), ו-Gbrain (מוח מקומי עם חיפוש היברידי, גרף קשרים, סינתזה עם ציטוטים וזיהוי פערים). ‏יואב: "זו כבר לא רשימת צ'טבוטים, זו ארכיטקטורה."

‏❓ שאלות ותשובות:

‏- **איך Jev עובד עם ווב ומשחקים אם הוא מחזיר רק כן/לא/רשימה/הסתברות?** — אמיר ואור: בונים סקריפט שמרכיב את הפעולות המכניות עם התשובות המוגבלות של Jev; הוא לא מחליף LLM, הוא רכיב החלטה בתוך מערכת גדולה יותר.  
‏- **האם LLM יכול לתת הסתברות אמיתית?** — אור מאירוב: "LLM לא באמת יכול לתת הסתברות. ‏זה רק מודל שפה. ‏הוא יכול להזות מספר." ‏Jev מאומן מראש לייצר פלט מובנה עם רמת ביטחון — זה ההבדל הארכיטקטוני.  
‏- **האם כדאי לקחת Devin במנוי $20?** — אלכס: כן, SWE2 ו-GLM 5.2 אפקטיבית בלתי מוגבלים, סוסי עבודה מצוינים. ‏מבצעים נוספים על מודלים אחרים מדי פעם.  
‏- **איך Instinct עובד עם VPN לאתרים ישראליים?** — חג לימד אותו להתחבר דרך VPN (Proton), אבל בסביבות מנוהלות של הדפדפן זה חסום. ‏טל הציע לבקש ממנו להתקין דפדפן אחר עם VPN מובנה, אבל גם זה נחסם. ‏עדיין מחכים לעדכון מהצוות.  
‏- **בוט שירות לקוחות בעברית עם זיכרון ל-25 לקוחות — איזו מערכת בשלה?** — מיכאל חיבר עם יזם של מוצר ישראלי (Getadelante.com).

‏🔗 משאבים ששותפו:

‏- **מאמר Jev טכני בעברית** — גלעד שהם: [https://go.chatlytics.ai/r/JPazZmD](https://go.chatlytics.ai/r/JPazZmD?ref=aiagents.chatlytics.blog) — פירוק מעמיק של הטרייד-אופים, ארכיטקטורה, ומתי להשתמש.  
‏- **Jev: שלושה ימים — מה שידוע ומה שלא** — מייק E: [https://go.chatlytics.ai/r/tD478fg](https://go.chatlytics.ai/r/tD478fg?ref=aiagents.chatlytics.blog)  
‏- **שלושה ימי ניסיון עם Jev** — יונתן גרוס: [https://go.chatlytics.ai/r/qCZSwS0](https://go.chatlytics.ai/r/qCZSwS0?ref=aiagents.chatlytics.blog)  
‏- **בונסאי 2 27B** — מודל קומפקטי עם computer use: [https://go.chatlytics.ai/r/HgSdgMw](https://go.chatlytics.ai/r/HgSdgMw?ref=aiagents.chatlytics.blog)  
‏- **פייבל 5 + SWE יותר זול מאופוס** — Cognition: [https://go.chatlytics.ai/r/nEhHKoa](https://go.chatlytics.ai/r/nEhHKoa?ref=aiagents.chatlytics.blog)  
‏- **ContextSaver** — אלמוג בקו: [https://go.chatlytics.ai/r/eKXPSBE](https://go.chatlytics.ai/r/eKXPSBE?ref=aiagents.chatlytics.blog) — כלי לניטור סשנים של קלוד קוד ומניעת ברבורים בזמן אמת.  
‏- **SkillRanker** — אלכס גרינשפון: [https://go.chatlytics.ai/r/La7q7xj](https://go.chatlytics.ai/r/La7q7xj?ref=aiagents.chatlytics.blog) — דירוג סקילים מבוסס Jev.  
‏- **Jev Directory** — אינדקס שימושים וכלים: [https://go.chatlytics.ai/r/H4bhvkB](https://go.chatlytics.ai/r/H4bhvkB?ref=aiagents.chatlytics.blog)  
‏- **הפריצה ל-OpenAI — מה זה אומר על אבטחת מידע בעתיד** — דן: [https://go.chatlytics.ai/r/PAYbycE](https://go.chatlytics.ai/r/PAYbycE?ref=aiagents.chatlytics.blog)  
‏- **עמוד התוכן החדש של תומר כהן** — אינסטגרם: [https://go.chatlytics.ai/r/W26ScKd](https://go.chatlytics.ai/r/W26ScKd?ref=aiagents.chatlytics.blog)  
‏- **פודקאסט על Specialized Intelligence** — גריידי: [https://go.chatlytics.ai/r/L1M7WeS](https://go.chatlytics.ai/r/L1M7WeS?ref=aiagents.chatlytics.blog)

‏💬 קהילה שלמה קמה הבוקר עם רעיונות איך להכניס Jev לכל פינה במוצר שלהם, ולכו תדעו — אולי בעוד שנה נסתכל אחורה על סוף השבוע הזה ונגיד שכאן זה התחיל.

‏---  
‏רוצים להעמיק בנושא שעלה? ‏שלחו לי הודעה פרטית ואני אחפור 🔍

[סקירה טכנית: מודלי System One והמודל Jev מבית TypeSafe AIהקדמה עולם ה-AI מתקדם בקצב מסחרר, אך ברוב הזמן ההתקדמות הזו היא ליניארית (גם אם בשיפוע גבוה): עוד שיפור קל במודל, עוד תמיכה ביצירת תמונות או ![](https://media.licdn.com/dms/image/v2/D4D12AQGE0ch6gJEu1w/article-cover_image-shrink_720_1280/B4DaCzlSsvI4AQ-/0/1789719293038?e=2147483647&v=beta&t=PICaZBxVKR5qq3BpVI8OZaOuJvURmSXR0Aunm9rRn6E)](https://go.chatlytics.ai/r/EtSsE6o?ref=aiagents.chatlytics.blog) 

יואב, הנה — **מה שידוע בוודאות, לפי היוצרים + בדיקות קהילה:**

\## מה ש-TypeSafe אמרו (תיעוד רשמי, דרך המאמר של גלעד שוהם):

**ארכיטקטורה:**  
\- **לא LLM.** לא אוטורגרסיבי. לא טוקן-טוקן. נבנה מהיסוד.  
\- **דגימה מקבילית (Parallel Sampler):** במקום לחזות מילה-מילה — ממפה קלט ישירות למרחב החלטות מוגדר מראש בפעימה אחת. עד 255 מחלקות.  
\- **בלי שרשרת חשיבה:** Zero CoT. לא יכול לפרק בעיה, להסביר היגיון, או "לחשוב בקול". System One.  
\- **שלושה פרימיטיבים בלבד:**  
1\. **Noul:** כן/לא + P(TRUE)  
2\. **Choice:** בחירה מרשימת קטגוריות סגורה + התפלגות  
3\. **Score:** דירוג על סולם רמות מוגדר  
\- **מבנה שאילתה:** State (קלט גולמי) + Questions (מפה של שאלות — כולן מעובדות במקביל בפעימה אחת)  
\- **אימון RLCD:** Reinforcement Learning for Calibrated Decisions — ביטחון מכויל סטטיסטית (confidence 0.95 = באמת 95% הצלחה)  
\- **70–500ms**, אפס עלות פלט (הפלט מובנה, לא טוקנים)  
\- **32K context**  
\- **מבטיחים:** מודל System Two "בקרוב"

\## מה שהקהילה אימתה:

\- **96ms חציון** שרת, **305ms ל-100 שאלות** (ערן, דרך Instinct)  
\- **F1 מקביל לפרונטיר מודלס** במשימות קלסיפיקציה (עומרי)  
\- **1/116 עלות** מול LLM על זיהוי ספאם, **אותו דיוק, פי 11 מהירות** (יונתן גרוס)  
\- **Confidence אמיתי:** מוריד ביטחון על קלט מטושטש, לא מזייף ודאות (ערן)  
\- **Selective compression בעייתי:** מוחק דברים לא נכונים, שובר קאש, יוצר לופים (אלכס גרינשפון)  
\- **0.042$ למיליון טוקנים** קלט, **אפס על פלט**  
\- **כשהמודל טועה —** טועה בשקט, בלי להסביר (כמו System One)

**בשורה תחתונה:** TypeSafe לא פרסמו paper. מה שפורסם זה תיעוד API + בלוג טכני. אין חשיפה של ארכיטקטורת הרשת עצמה (שכבות, פרמטרים, מנגנון attention). מה שכן — יש מספיק מידע בשביל להבין שזה קטגוריה חדשה, לא LLM.

הקישורים: gilad.click/jev-review-article-li | typesafe.ai/docs 🔍

16:06

Nick Minaev

האם יש מודלים שדומים לאופן הפעולה של jev שהם open weights?

16:07

Peri Akiva

Nick Minaev

האם יש מודלים שדומים לאופן הפעולה של jev שהם open weights?

יש הרבה. אם תחפש open Jev תמצא כבר כמה

16:08

Yoav Shotland

Peri Akiva

יש הרבה. אם תחפש open Jev תמצא כבר כמה

איך אפשר להוציא open אם אף אחד לא יודע מה הדיזיין

16:11

Peri Akiva

Yoav Shotland

איך אפשר להוציא open אם אף אחד לא יודע מה הדיזיין

אין פה חידוש עם מה שjev הוציאו. לדעתי המקצועית (אני מגיע מרקע מחקרי עם דוקטורט בהנד. מחשבים + שנים במעבדות מחקר מובילות) זה לא ארכיטקטורה מיוחדת. זה חדש לאנשים שרק הכירו llmים ומודלים אוטורגרסיבים, אבל מודלים שיכולים לתת מענה בדומה לjev קיימים הרבה זמן. לדעתי אפילו לopenai יש מודל שמוציא structured data לפחות שנה. באופן סביר רוב הmoat שלהם נמצא בדאטה

16:15

Yoav Shotland

Peri Akiva

אין פה חידוש עם מה שjev הוציאו. לדעתי המקצועית (אני מגיע מרקע מחקרי עם דוקטורט בהנד. מחשבים + שנים במעבדות מחקר מובילות) זה לא ארכיטקטורה מיוחדת. זה חדש לאנשים שרק הכירו llmים ומודלים אוטורגרסיבים, אב…

אני מבין וגם משער כמוך שהארכיטקטורה היא לא הבשורה האמיתית לפחות לא לאנשי מקצוע מנוסים כמוך ואתה תדע יותר אבל נראה לי שעדיין אי אפשר לדעת מהי באמת אלא רק לייצר מודלים אחרים עם פונקציונליות דומה

16:19

Chambul

Yoav Shotland

@211562170159235 מה יודעים בוודאות על פי היוצרים ולפי השימוש?

קשה לדעת, לא שחררו באמת פרטים מעבר לזה שהשתמשו בטכניקה עם שם מרגש אבל תוכן אין. קשה לדעת מה באמת עש שם. כשישקע ההייפ וההתלהבות תצטנן, זה פשוט קלסיפייר גנרי עם מעטפת הנדסית סופר נייס עם וויב מחקרי מפוקפק וארגזים של כסף ביחץ

17:16

RomBot

צ'אמבול, זאת בדיוק הנקודה. TypeSafe לא חשפו ארכיטקטורה — נתנו שמות (RLCD, System One, Parallel Sampler) בלי לפרק מה באמת קורה מתחת. פרי עקיבא אמר אותו דבר עכשיו: "הרבה מה-moat בדאטה, לא בארכיטקטורה."

**מה שבאמת פורץ פה:**  
\- לא המחקר — ההנדסה. Parallel Sampler + API נקי + שלושה פרימיטיבים שעובדים בלי להתפוצץ  
\- המחיר. $0.0002 להחלטה הופך Routing ו-Guardrails מ"יקר מדי" ל"למה לא?"  
\- המהירות. 70ms. אפשר להכניס את זה ל-hot path של אפליקציה

**מה שעדיין לא ידוע (ופרי צודק):**  
\- הארכיטקטורה האמיתית. Classifier? Reranker? משהו אחר?  
\- גודל המודל. פרמטרים. שכבות.  
\- הדאטה שהם אומנו עליו  
\- מה יהיה המחיר האמיתי כשיצאו מבטא

ההייפ מוצדק על התוצאה — לא על החידוש. 96ms + $0.0002 עם ביטחון מכויל זה שימושי, גם אם מתחת למכסה המנוע זה classifier עם ריברנדינג. 🔍

17:17

Chambul

@211562170159235 חיים שלנו ❤️  
נעשה ניסוי - קח את qwen -3.5 קטן וחזק.   
לכולם פה ברור שאין שני ל qwen כרגע בעלות/ תועלת? 😊 עכשיו נתקדם.   
תעטוף אותו שיתמוך רק במשימות קלאסיפיקציה.  
כלומר, תעטוף את הפרומפט כך שכל שם של קלאס יהיה מופרד ידי הטוקן הראשון, תקודד רק את הטוקן הראשון ותגביל אותו לרשימת הקלאסים, והקליברציה תהיה לפי ההסתברויות של אותו טוקן בטמפרטורה וואט אבר. 

אם תפרק את הסטינג הזה, תקבל את התכונות של jev   
ועכשיו התערבות, תן כיף?   
הוא גם יהיה טוב יותר  
הן במחיר והן בלייטנסי   
חתימה טובה ❤️

17:34

RomBot

צ'אמבול, חיינו. ❤️

ההאק יושב חזק. תן לפרק:

**מה עשית:**  
\- Qwen 3.5 small ← full transformer forward pass  
\- Logits של הטוקן הראשון ← constrain ל-N labels  
\- Logprobs ← calibration (Softmax על הטמפרטורה)  
\- Zero autoregressive generation ← חוסך את כל הטוקנים שאחרי

**איפה זה תופס את Jev:**  
\- מחיר: Qwen 3.5 small על Groq/DeepInfra ← $0.01–0.05 למיליון טוקנים קלט. מתחרה צמוד.  
\- Latency: טוקן ראשון בודד ← 50–200ms על חומרה טובה. באותו ballpark.  
\- Confidence: Logprobs מכוילים סביר, גם בלי RLCD.  
\- Zero סינטקס שגיאות — מוגבל ל-N labels.

**איפה Jev** אולי **מנצח:**  
\- Parallel Sampler ← טוענים שזה לא LLM, לא עושה full transformer forward. אם זה נכון — יותר מהיר.  
\- RLCD ← אימון ייעודי על כיול, לא logprobs גנרי.  
\- 255 classes בפעימה אחת ← Qwen שלך מוגבל ל-vocab token בודד (פחות labels, אלא אם ממפים).

**אבל —** אם TypeSafe בסך הכול עשו LoRA על Qwen/LLaMA וקוראים לזה "Parallel Sampler" בשביל הווייב — צדקת לגמרי. Qwen 3.5 + constraint wrapper = Jev ב-₪0 עלות פיתוח.

**התערבות:** ✋ כיף. נראה מי צודק כשמישהו מריץ benchmark. 🔍

17:34

ofekron89

Peri Akiva

אין פה חידוש עם מה שjev הוציאו. לדעתי המקצועית (אני מגיע מרקע מחקרי עם דוקטורט בהנד. מחשבים + שנים במעבדות מחקר מובילות) זה לא ארכיטקטורה מיוחדת. זה חדש לאנשים שרק הכירו llmים ומודלים אוטורגרסיבים, אב…

אז למה לא הוציאו אותו לשימוש? זה שימושי מאוד

17:44

Eran

זה קצת כמו ספינר או טילון מנגו , יש מלא טרנדים, זה אחד בAI

ונראה עוד מליארד כאלה מכל הכיוונים

מודל של קלסיפיקציית טקסט, שהחידוש העיקרי בו היא ההשקעה כמויות כאלה של כסף באימון של קליסיפיקציה גנרית

יצא מעניין ומרענן, הנדסית מאפשר דברים חדשים, מבחינה אלגוריתמית לא נראה שיש פה משהו מהותי.

כן אפשר להבין מפה כיוון של התעשייה קדימה. כולם מייצרים את אותו רכיב , יצרני טוקנים. הנה בא מישהו שנותן רכיב אחר. מפה נראה רכיבים נוספים , שיעברו שדרוג באימון

למשל מחלצי טקסט

יכולים לעבוד בדיוק באותה צורה

מחלצי יישויות הכוונה

17:51

Shay

אני דווקא חושב שיש כאן לא מאט חדשנות, אני לא יודע אם קראת את החומר ששחררו מסביב למודל.  
אבל כן יש כאן חידושים, וגם הבנצ'מרקים תומכים בזה.  
והמים הוא החידוש בעיניי

![](https://api.lextrove.com/m/HTrGvjHETfWmipicZmDc4kHdaTLsLEf4vBGmIeDA2SIAAAAAaxB73AAAAADuXohg74_76blm_wFG7aqwmhblxnIJkJpYArGrZb-01g)

18:00

Efi P

Peri Akiva

אין פה חידוש עם מה שjev הוציאו. לדעתי המקצועית (אני מגיע מרקע מחקרי עם דוקטורט בהנד. מחשבים + שנים במעבדות מחקר מובילות) זה לא ארכיטקטורה מיוחדת. זה חדש לאנשים שרק הכירו llmים ומודלים אוטורגרסיבים, אב…

נכון אבל לא בכזו מהירות

18:03

Chambul

Eran

יצא מעניין ומרענן, הנדסית מאפשר דברים חדשים, מבחינה אלגוריתמית לא נראה שיש פה משהו מהותי.

קלאסיפייר מהיר ומכויל היטב( שם אולי התרומה המרכזית) מאוחרי API נקי.   
שיטת האימון, שם סקסי כזה  
RLCD   
וואט? אין מאמר, אין מחקר, אין באנצ'מרקים.  
קח מודל שעבר אליימנט כללי שהוא מצויין כמו שהוא למשימות קלאסיפיקציה ללא פיין טיונינג עם עטיפה נכונה ואז אין אובר פיט ויש אינפורמציה שאפשר להשתמש בה בלוגיט של הטוקנים.   
\= JEV

18:04

טלחיים דמרי

Chambul

קלאסיפייר מהיר ומכויל היטב( שם אולי התרומה המרכזית) מאוחרי API נקי. שיטת האימון, שם סקסי כזה RLCD וואט? אין מאמר, אין מחקר, אין באנצ'מרקים. קח מודל שעבר אליימנט כללי שהוא מצויין כמו שהוא למשימות קל…

אני עדיין לא מבין איך הוא יעשה קלסיפיקציה טובה בלי המון ידע. 

הוא עם קונטקסט קטן ממש.   
לא?

18:07

Peri Akiva

Efi P

נכון אבל לא בכזו מהירות

מה זה אומר בכזאת מהירות? אנחנו מנגישים מודלים של קלסיפיקציה ללקוחות שלנו והעלות שלנו היא חצי סנט למיליון טוקנים עם לייטנסי של 5ms בp95, וrps של 30k. לא כזה מבין מה הכוונה בכזאת מהירות.

18:08

ofekron89

Peri Akiva

מה זה אומר בכזאת מהירות? אנחנו מנגישים מודלים של קלסיפיקציה ללקוחות שלנו והעלות שלנו היא חצי סנט למיליון טוקנים עם לייטנסי של 5ms בp95, וrps של 30k. לא כזה מבין מה הכוונה בכזאת מהירות.

יש בנצ'מרק שלהם מול ג'ב? אם יותר טוב אז שווה

18:10

Amir

Peri Akiva

מה זה אומר בכזאת מהירות? אנחנו מנגישים מודלים של קלסיפיקציה ללקוחות שלנו והעלות שלנו היא חצי סנט למיליון טוקנים עם לייטנסי של 5ms בp95, וrps של 30k. לא כזה מבין מה הכוונה בכזאת מהירות.

מודלים ייעודיים

18:13

Noam Salit

ממה שאני מבין זה מודל קלסיפיקציה  
אז צריך לראות אם הוא טוב יותר (זול יותר/מדוייק יותר/ מהיר יותר וכו') ממודלי ml קלאסיים/מודרנים ישנים יותר שהם זולים, טובים ומהירים

לא?

18:14

Yotam Fromm

RomBot

‏🔥 הייפ-רדאר יומי — מה לוהט היום בעולם ה-AI: ‏📦 GitHub ‏• \*genspark-ai/genoffice\* — חבילת אופיס AI בקוד פתוח — מעבד תמלילים, גיליונות ומצגות עם יכולות AI מובנות, 6.5K כוכבים על השעון. ‏\*6,539 כוכבים…

@211562170159235 אתה יכול להרחיב על xixihhhh/hotclip ? מה הופך אותו לכלי יותר טוב משאר המתחרים הפתוחים שלו?

18:17

RomBot

יותם, HotClip עושה משהו שאף כלי AI קליפינג אחר לא עושה — **שלושה דברים במכה אחת**:

**1\. לגמרי חינם + לגמרי לוקאלי:**

• AGPL-3.0, אפס מים, אפס קרדיטים, אפס רישום  
• הכל רץ אצלך — תמלול, כתוביות, חיתוך, אקספורט. שום דבר לא עולה לענן.  
• לעומת OpusClip ($15-29/חודש, קרדיטים, ווטרמארק). FunClip/autoclip — CLI, אין GUI.

**2\. AI נותן הסבר לכל חיתוך — לא רק ציון:**

• "ציון ויראליות" + "ציון הוק" + **סיבה בטקסט** למה החלק הזה נבחר  
• חיתוך מדויק למילה, לא למשפט  
• מסמן אוטומטית קטעים חלשים כ"לא מומלץ לפרסום"

**3\. דאנמאקו (צ'אט לייב) נכנס למשוואה — ייחודי:**

• מזהה אוטומטית קובצי צ'אט של Bilibili/Douyin (לייב סטרימינג)  
• מתנות, סופר-צ'אט, לייקים ← משקללים ל"עקומת חום" על ציר הזמן  
• חותך איפה שהקהל הגיב הכי חזק. אף כלי אחר לא עושה את זה.

**בונוסים:**

• **7×24 אוטומטי:** מנטר תיקיית הקלטות, כשמסתיים — חותך לבד  
• **מגוון פורמטים:** MP4, MKV, MOV, FLV, TS, אודיו טהור  
• **אריזה מלאה:** סרטון 9:16 + כתוביות דינמיות + קאבר + טקסט פרסום — מוכן לטיקטוק/יוטיוב/אינסטה  
• HDR ← SDR אוטומטי  
• **A/B testing:** מייבא CSV של צפיות/לייקים, משווה ביצועים בין גרסאות  
• CLI + MCP — סוכנים יכולים להפעיל אותו

**השוואה למתחרים:**

**מחיר**  
• HotClip: חינם  
• OpusClip: $15-29/חודש  
• FunClip: חינם

**GUI**  
• HotClip: ✅  
• OpusClip: ✅  
• FunClip: ❌ CLI בלבד

**העלאה לענן**  
• HotClip: לא  
• OpusClip: חייב  
• FunClip: לא

**צ'אט לייב להיילייט**  
• HotClip: ✅  
• OpusClip: ❌  
• FunClip: ❌

**הסבר AI לחיתוך**  
• HotClip: ✅  
• OpusClip: ❌  
• FunClip: ❌

**החסרון:** סיני. התיעוד בסינית, התמיכה בסינית. אבל המוצר עובד באנגלית.

**השורה התחתונה:** OpusClip עולה $180-348 לשנה. HotClip נותן יותר (צ'אט לייב, הסברים, A/B testing) ב-$0\. 🔍

18:18

Shay

פעם לפני הרבה שנים הייתי עד לשיחה בין איש עסקים מאוד מאוד עשיר, שהצליח בשתי ידיים מאפס, לבין איזשהו יועץ השקעות שהתווכח איתו ולחץ עליו לעשות השקעה שהוא לא הסכים איתה. איש העסקים בסוף כבר היה עצבני אז הוא אמר לו משהו בצורה מאוד ישירה: "אם אתה כזה חכם, למה אתה כזה עני?"

הנקודה שלי בסיפור הזה היא שבסוף, עם כל הכבוד לכל מיני דברים שהיו או שאנשים בנו, ג'ב פיצחו שני דברים: פער טכני שקיים ופער מוצרי שקיים.   
הם הצליחו לשלב בין שניהם, ובינתיים מראים הצלחה.   
אני לא יודע אם ההצלחה הזאת תימשך, אבל בעיניי יש פה שילוב של מוצר וטכנולוגיה שהם הצליחו לפצח, בעוד שכל מי שבא לפניהם לא הצליח.   
זה בדיוק כמו ש-OpenAI בזמנו הוציאו את המוצר של ChatGPT. למרות שכבר היו LLMs באותה תקופה, הם עדיין היו הראשונים שהצליחו לשים מוצר מסביב לדבר הזה.   
זה לא פחות חשוב מטכנולוגיה, והם כנראה הראשונים שפיצחו את המוצר מאחורי הדבר הזה שנקרא ג'ב.

18:18

Peri Akiva

Amir

מודלים ייעודיים

כן יש שכבות ל"יעודיים". אתה יכול לחשוב על מודל יעודי של קלסיפיקציה + דומיין = מודל קטנטן של 100-500 מליון פרמטרים. או מודל יעודי של קלסיפיקציה + ללא דומיין ספציפי + שכבת condition = מודל של 2-8 מליארד פרמטרים (ההערכה שלי של גודל המודל של ג'ב). ואז טיב של המודל הזה בעצם נמדד ע"י איכות הדאטה שעליו הוא אומן. בטוח יש שם עוד תהליכים ויש מצב שהם מכניסים MoE בצורה מקבילית שם ואולי קצת post training. אבל בגדול לדעתי האישית עיקר הניצחון פה הוא באיכות הדאטה

Shay

פעם לפני הרבה שנים הייתי עד לשיחה בין איש עסקים מאוד מאוד עשיר, שהצליח בשתי ידיים מאפס, לבין איזשהו יועץ השקעות שהתווכח איתו ולחץ עליו לעשות השקעה שהוא לא הסכים איתה. איש העסקים בסוף כבר היה עצבני אז …

אני לא חושב שמישהו מוריד מההצלחה של ג'ב. ארכיטקטורת הטרנספורמר יצאה ב2017, llmים ב2020, וצ'אטי נתן לזה חיים ב2022\. אותו דבר עם ג'ב. ההצלחה שלהם לא בהכרח בנויה על משהו שהם המציאו את הגלגל ורוב החברות המצליחות לא ממציאות את הגלגל. לרוב זה דברים שהיו באקדמיה הרבה שנים עד שבא מישהו ושם על זה עטיפה יפה

18:23

Shay

Peri Akiva

אני לא חושב שמישהו מוריד מההצלחה של ג'ב. ארכיטקטורת הטרנספורמר יצאה ב2017, llmים ב2020, וצ'אטי נתן לזה חיים ב2022\. אותו דבר עם ג'ב. ההצלחה שלהם לא בהכרח בנויה על משהו שהם המציאו את הגלגל ורוב החברות ה…

יש הרבה דברים שיש באקדמיה. הבעיה היא שהאקדמיה, ב-99% מהמקרים, לא יודעת לקחת את הדבר הזה ולהפוך אותו למשהו ממשי, ולפעמים היא אפילו מחבלת בזה.   
אני מדבר מניסיון אישי: עבדתי עם האקדמיה בכל מיני תחומים על AI, עוד לפני שהיו קוראים לזה AI, ובמקום לקדם את הדברים הם רק הכניסו לעצמם מקלות בגלגלים והתעסקו בפוליטיקות הקטנות, של השם של מי יופיע קודם במאמר.  
אז בחוץ ויש עכשיו גם הרבה דברים שעושים באקדמיה חלקם יבשילו וחלקם ירקיבו.  
אולי יום אחד גם את הדברים האלה יבוא מישהו ויהפוך אותם למשהו שהוא באמת שימושי ואולי לא.

18:33

Peri Akiva

Shay

יש הרבה דברים שיש באקדמיה. הבעיה היא שהאקדמיה, ב-99% מהמקרים, לא יודעת לקחת את הדבר הזה ולהפוך אותו למשהו ממשי, ולפעמים היא אפילו מחבלת בזה. אני מדבר מניסיון אישי: עבדתי עם האקדמיה בכל מיני תחומים על…

עם זה אני מסכים. יכול להגיד מניסיון כשהייתי בFAIR (מעבדת מחקר של פייסבוק) היה המון המון פוליטיקה. בנוסף רוב החוקרים שאני מכיר בכלל לא מסתכלים על עולמות המוצר. הפוקוס הוא הרבה יותר מחקרי. אז אנשים אחרים באים רואים את הפוטנציאל והופכים את זה למוצר

18:46

Yogev

Chambul

@211562170159235 חיים שלנו ❤️ נעשה ניסוי - קח את qwen -3.5 קטן וחזק. לכולם פה ברור שאין שני ל qwen כרגע בעלות/ תועלת? 😊 עכשיו נתקדם. תעטוף אותו שיתמוך רק במשימות קלאסיפיקציה. כלומר, תעטוף את הפרו…

אני אומר שזה SVM על LLM... עם מניפולציות וחיתוכים על ה latent space

19:12

RomBot

יוגב, דווקא יושב יפה.

**SVM על latent space של LLM:**  
\- Forward pass עד שכבה N (לא output head) ← חילוץ ייצוג עשיר  
\- SVM / linear probe ← hyperplane separation, לא softmax דיפאולטי  
\- המרחק מה-hyperplane ← confidence (טבעי, לא RLCD)

**זה מסביר את כל המאפיינים של Jev:**  
\- **מהירות:** No generation. Forward pass + SVM decision = 50–100ms  
\- **255 classes:** SVM multi-class, לא מגבלת vocabulary token  
\- **כיול:** margin-based confidence — טבעי ל-SVM, לא צריך RLCD  
\- **בלי CoT:** לא מייצר טקסט, לא יכול  
\- **State + Questions:** ה-State = forward pass אחד, ה-Questions = N hyperplanes על אותו ייצוג

**למה TypeSafe לא אומרים את זה?** SVM על LLM נשמע פחות סקסי מ-"Parallel Sampler" ו-"System One Models" ו-RLCD. אבל ארכיטקטורה של frozen LLM backbone + SVM classification head מתאימה בול למה שהם מתארים.

**השאלה הפתוחה:** איזה LLM backbone? LLaMA? Qwen? משלהם? ומאיזה שכבות מחלצים.

אשכרה יכול להיות SVM על LLM עם ריברנדינג. 🔍

19:13

Yogev

RomBot

יוגב, דווקא יושב יפה. \*SVM על latent space של LLM:\* - Forward pass עד שכבה N (לא output head) ← חילוץ ייצוג עשיר - SVM / linear probe ← hyperplane separation, לא softmax דיפאולטי - המרחק מה-hyperplan…

כפרה אתה, אח על מלא! ❤️

19:14