@211562170159235 יש לנו כבר פירוט ארכיטקטוני מלא סביב איך je
@211562170159235 יש לנו כבר פירוט ארכיטקטוני מלא סביב איך jev עובד? הכוונה היא לארכיטקטורת מודל כמו הllm של גוגל ב2017
@211562170159235 מה יודעים בוודאות על פי היוצרים ולפי השימוש?
📋 סיכום יומי — 19 בספטמבר 2026
הימים האחרונים הזכירו את הימים הראשונים של GPT-4: דור שלם של מפתחים קיבל צעצוע חדש, והאינטרנט מלא בניסויים, ויכוחים, ומאמר אחד מצוין של גלעד שהם. השם על כולם: Jev.
📌 מה דובר היום:
Jev של TypeSafe AI — הגל השני של ההייפ. המודל שהתפוצץ אתמול המשיך לשלוט בשיח. ערן שיתף ניסוי לילי שבו הסוכן Instinct שלו נרשם לבד ל-early access, חיכה בתור, פתח חשבון, והריץ בנצ׳מרקים — 96ms חציון להחלטה מובנית, 305ms ל-100 שאלות, עלות של $0.0002. יונתן גרוס דיווח על יחס מחיר של 1/116 לעומת LLM עם אותה דיוק ופי 11 במהירות. אמיר ("The Real Amir") העלה תזה מעניינת: Jev יגרום לזינוק של פי 100 בשימוש ב-LLM בתוך אפליקציות, כי כשהמחיר והלטנסי צונחים — פתאום הכל מצדיק קריאה חכמה. אור מאירוב הזכיר נקודה קריטית: LLM לא באמת נותן הסתברויות, הוא הוזה מספר — Jev מאומן אחרת, וזה ההבדל המהותי. גלעד שהם פרסם מאמר טכני מעמיק בעברית שמפרק את הטרייד-אופים, ומייק E כתב פוסט מפורט על מה שידוע ומה שלא על המודל. יונתן גרוס גם סיכם 3 ימי שימוש אישיים. יריב הציע חזון של "מיקרוסרביסים של מודלים" — פירוק המונוליט של ה-LLM למומחי דומיין זולים, ו-Jev כצעד ראשון בכיוון. ניק מינאייב מחכה לגרסת open-weight. נדב סיכם את השבוע: "ג'ב, דיפסיק חדש, בונסאי, קלוד קוד מאוחד, Qwen 3.8 Omni, והפריצה ל-OpenAI."
Instinct — ההתמכרות הלאומית החדשה. קורל כהן הכריזה "אני מכורה" וחרדה מהרגע שיתחילו לגבות תשלום. חג שיתף שימושים יצירתיים: ניקוי מייל בוקר, הזמנת קניות שבועית, סינון לינקדאין, ומכירת רכב במרקטפלייס — כולל התכתבויות. עידו שיתף ארכיטקטורה של תיבת מייל נפרדת לסוכן לצורך תכנון טיולים, עם שליטה מלאה על התקשורת. חג גם לימד את Instinct להתחבר ל-VPN — זהר עדיין נאבק עם החסימה בסביבה המנוהלת. שאול שיתף על אוטומציה בלינקדאין עם קלוד: בניית רשימות, שליחת חיבורים ו-InMail. גיא B העלה תהייה על הפרטיות — "איך זה הגיוני לתת גישה לכל מייל שאי פעם שלחו לך?" דרור ענה: "זה לא, אבל YOLO 😉". רום העלה שאלה תאורטית: מה הערך של חיבור רומבוט ל-Instinct? הקהילה הציעה חיסכון בטוקנים, אבל אתגר של 4,000+ משתמשים על תשתית חינמית.
בונסאי 2 27B — הסוס השקט של השבוע. נדב הכריז שזה "הדבר הכי חשוב שקרה, יותר מ-Jev" — מודל קטן עם יכולות computer use מטורפות. ניצן מגדל שיתף לינק וקרא לזה "נראה סוטה". אורי רוזן מחפש את הראשון שינסה אותו מקומית עם LMStudio על מאק רגיל.
פייבל + SWE של Devin — יותר זול מאופוס. אמיר שיתף כתבה של Cognition: הרצת SWE2 עם פייבל 5 יוצאת יותר זול מאופוס 4.8. אלכס גרינשפון, שמשתמשת בדווין בקביעות, הסבירה: במנוי הבסיסי ב-$20 מקבלים SWE2 (דיסטילד של Kimi K3) ו-GLM 5.2 בחינם ללא הגבלה — אפילו אחרי שהמכסה נגמרת. אורי ציין ש-SWE נוטה קצת להתברבר, אבל "בהינתן שהוא חינם, הוא מצוין".
חמישיית הריפואים החדשים. אוז לוי חשף הקלטה שתומללה ע"י יואב יחיאם: 5 פרויקטי אופן-סורס טריים שכל אחד תוקף שכבה אחרת בעולם הסוכנים — Octo (בית לסוכנים מרובי-משתמשים), Talos (קרנל הרשאות דטרמיניסטי), Anmiut (קומפיילר מ-YAML/Markdown לסוכן קולי), Overlord (hypervisor עם commit/rollback), ו-Gbrain (מוח מקומי עם חיפוש היברידי, גרף קשרים, סינתזה עם ציטוטים וזיהוי פערים). יואב: "זו כבר לא רשימת צ'טבוטים, זו ארכיטקטורה."
❓ שאלות ותשובות:
- איך Jev עובד עם ווב ומשחקים אם הוא מחזיר רק כן/לא/רשימה/הסתברות? — אמיר ואור: בונים סקריפט שמרכיב את הפעולות המכניות עם התשובות המוגבלות של Jev; הוא לא מחליף LLM, הוא רכיב החלטה בתוך מערכת גדולה יותר.
- האם LLM יכול לתת הסתברות אמיתית? — אור מאירוב: "LLM לא באמת יכול לתת הסתברות. זה רק מודל שפה. הוא יכול להזות מספר." Jev מאומן מראש לייצר פלט מובנה עם רמת ביטחון — זה ההבדל הארכיטקטוני.
- האם כדאי לקחת Devin במנוי $20? — אלכס: כן, SWE2 ו-GLM 5.2 אפקטיבית בלתי מוגבלים, סוסי עבודה מצוינים. מבצעים נוספים על מודלים אחרים מדי פעם.
- איך Instinct עובד עם VPN לאתרים ישראליים? — חג לימד אותו להתחבר דרך VPN (Proton), אבל בסביבות מנוהלות של הדפדפן זה חסום. טל הציע לבקש ממנו להתקין דפדפן אחר עם VPN מובנה, אבל גם זה נחסם. עדיין מחכים לעדכון מהצוות.
- בוט שירות לקוחות בעברית עם זיכרון ל-25 לקוחות — איזו מערכת בשלה? — מיכאל חיבר עם יזם של מוצר ישראלי (Getadelante.com).
🔗 משאבים ששותפו:
- מאמר Jev טכני בעברית — גלעד שהם: https://go.chatlytics.ai/r/JPazZmD — פירוק מעמיק של הטרייד-אופים, ארכיטקטורה, ומתי להשתמש.
- Jev: שלושה ימים — מה שידוע ומה שלא — מייק E: https://go.chatlytics.ai/r/tD478fg
- שלושה ימי ניסיון עם Jev — יונתן גרוס: https://go.chatlytics.ai/r/qCZSwS0
- בונסאי 2 27B — מודל קומפקטי עם computer use: https://go.chatlytics.ai/r/HgSdgMw
- פייבל 5 + SWE יותר זול מאופוס — Cognition: https://go.chatlytics.ai/r/nEhHKoa
- ContextSaver — אלמוג בקו: https://go.chatlytics.ai/r/eKXPSBE — כלי לניטור סשנים של קלוד קוד ומניעת ברבורים בזמן אמת.
- SkillRanker — אלכס גרינשפון: https://go.chatlytics.ai/r/La7q7xj — דירוג סקילים מבוסס Jev.
- Jev Directory — אינדקס שימושים וכלים: https://go.chatlytics.ai/r/H4bhvkB
- הפריצה ל-OpenAI — מה זה אומר על אבטחת מידע בעתיד — דן: https://go.chatlytics.ai/r/PAYbycE
- עמוד התוכן החדש של תומר כהן — אינסטגרם: https://go.chatlytics.ai/r/W26ScKd
- פודקאסט על Specialized Intelligence — גריידי: https://go.chatlytics.ai/r/L1M7WeS
💬 קהילה שלמה קמה הבוקר עם רעיונות איך להכניס Jev לכל פינה במוצר שלהם, ולכו תדעו — אולי בעוד שנה נסתכל אחורה על סוף השבוע הזה ונגיד שכאן זה התחיל.
---
רוצים להעמיק בנושא שעלה? שלחו לי הודעה פרטית ואני אחפור 🔍
יואב, הנה — מה שידוע בוודאות, לפי היוצרים + בדיקות קהילה:
## מה ש-TypeSafe אמרו (תיעוד רשמי, דרך המאמר של גלעד שוהם):
ארכיטקטורה:
- לא LLM. לא אוטורגרסיבי. לא טוקן-טוקן. נבנה מהיסוד.
- דגימה מקבילית (Parallel Sampler): במקום לחזות מילה-מילה — ממפה קלט ישירות למרחב החלטות מוגדר מראש בפעימה אחת. עד 255 מחלקות.
- בלי שרשרת חשיבה: Zero CoT. לא יכול לפרק בעיה, להסביר היגיון, או "לחשוב בקול". System One.
- שלושה פרימיטיבים בלבד:
1. Noul: כן/לא + P(TRUE)
2. Choice: בחירה מרשימת קטגוריות סגורה + התפלגות
3. Score: דירוג על סולם רמות מוגדר
- מבנה שאילתה: State (קלט גולמי) + Questions (מפה של שאלות — כולן מעובדות במקביל בפעימה אחת)
- אימון RLCD: Reinforcement Learning for Calibrated Decisions — ביטחון מכויל סטטיסטית (confidence 0.95 = באמת 95% הצלחה)
- 70–500ms, אפס עלות פלט (הפלט מובנה, לא טוקנים)
- 32K context
- מבטיחים: מודל System Two "בקרוב"
## מה שהקהילה אימתה:
- 96ms חציון שרת, 305ms ל-100 שאלות (ערן, דרך Instinct)
- F1 מקביל לפרונטיר מודלס במשימות קלסיפיקציה (עומרי)
- 1/116 עלות מול LLM על זיהוי ספאם, אותו דיוק, פי 11 מהירות (יונתן גרוס)
- Confidence אמיתי: מוריד ביטחון על קלט מטושטש, לא מזייף ודאות (ערן)
- Selective compression בעייתי: מוחק דברים לא נכונים, שובר קאש, יוצר לופים (אלכס גרינשפון)
- 0.042$ למיליון טוקנים קלט, אפס על פלט
- כשהמודל טועה — טועה בשקט, בלי להסביר (כמו System One)
בשורה תחתונה: TypeSafe לא פרסמו paper. מה שפורסם זה תיעוד API + בלוג טכני. אין חשיפה של ארכיטקטורת הרשת עצמה (שכבות, פרמטרים, מנגנון attention). מה שכן — יש מספיק מידע בשביל להבין שזה קטגוריה חדשה, לא LLM.
הקישורים: gilad.click/jev-review-article-li | typesafe.ai/docs 🔍
האם יש מודלים שדומים לאופן הפעולה של jev שהם open weights?
יש הרבה. אם תחפש open Jev תמצא כבר כמה
איך אפשר להוציא open אם אף אחד לא יודע מה הדיזיין
אין פה חידוש עם מה שjev הוציאו. לדעתי המקצועית (אני מגיע מרקע מחקרי עם דוקטורט בהנד. מחשבים + שנים במעבדות מחקר מובילות) זה לא ארכיטקטורה מיוחדת. זה חדש לאנשים שרק הכירו llmים ומודלים אוטורגרסיבים, אבל מודלים שיכולים לתת מענה בדומה לjev קיימים הרבה זמן. לדעתי אפילו לopenai יש מודל שמוציא structured data לפחות שנה. באופן סביר רוב הmoat שלהם נמצא בדאטה
אני מבין וגם משער כמוך שהארכיטקטורה היא לא הבשורה האמיתית לפחות לא לאנשי מקצוע מנוסים כמוך ואתה תדע יותר אבל נראה לי שעדיין אי אפשר לדעת מהי באמת אלא רק לייצר מודלים אחרים עם פונקציונליות דומה
קשה לדעת, לא שחררו באמת פרטים מעבר לזה שהשתמשו בטכניקה עם שם מרגש אבל תוכן אין. קשה לדעת מה באמת עש שם. כשישקע ההייפ וההתלהבות תצטנן, זה פשוט קלסיפייר גנרי עם מעטפת הנדסית סופר נייס עם וויב מחקרי מפוקפק וארגזים של כסף ביחץ
צ'אמבול, זאת בדיוק הנקודה. TypeSafe לא חשפו ארכיטקטורה — נתנו שמות (RLCD, System One, Parallel Sampler) בלי לפרק מה באמת קורה מתחת. פרי עקיבא אמר אותו דבר עכשיו: "הרבה מה-moat בדאטה, לא בארכיטקטורה."
מה שבאמת פורץ פה:
- לא המחקר — ההנדסה. Parallel Sampler + API נקי + שלושה פרימיטיבים שעובדים בלי להתפוצץ
- המחיר. $0.0002 להחלטה הופך Routing ו-Guardrails מ"יקר מדי" ל"למה לא?"
- המהירות. 70ms. אפשר להכניס את זה ל-hot path של אפליקציה
מה שעדיין לא ידוע (ופרי צודק):
- הארכיטקטורה האמיתית. Classifier? Reranker? משהו אחר?
- גודל המודל. פרמטרים. שכבות.
- הדאטה שהם אומנו עליו
- מה יהיה המחיר האמיתי כשיצאו מבטא
ההייפ מוצדק על התוצאה — לא על החידוש. 96ms + $0.0002 עם ביטחון מכויל זה שימושי, גם אם מתחת למכסה המנוע זה classifier עם ריברנדינג. 🔍
@211562170159235 חיים שלנו ❤️
נעשה ניסוי - קח את qwen -3.5 קטן וחזק.
לכולם פה ברור שאין שני ל qwen כרגע בעלות/ תועלת? 😊 עכשיו נתקדם.
תעטוף אותו שיתמוך רק במשימות קלאסיפיקציה.
כלומר, תעטוף את הפרומפט כך שכל שם של קלאס יהיה מופרד ידי הטוקן הראשון, תקודד רק את הטוקן הראשון ותגביל אותו לרשימת הקלאסים, והקליברציה תהיה לפי ההסתברויות של אותו טוקן בטמפרטורה וואט אבר.
אם תפרק את הסטינג הזה, תקבל את התכונות של jev
ועכשיו התערבות, תן כיף?
הוא גם יהיה טוב יותר
הן במחיר והן בלייטנסי
חתימה טובה ❤️
צ'אמבול, חיינו. ❤️
ההאק יושב חזק. תן לפרק:
מה עשית:
- Qwen 3.5 small ← full transformer forward pass
- Logits של הטוקן הראשון ← constrain ל-N labels
- Logprobs ← calibration (Softmax על הטמפרטורה)
- Zero autoregressive generation ← חוסך את כל הטוקנים שאחרי
איפה זה תופס את Jev:
- מחיר: Qwen 3.5 small על Groq/DeepInfra ← $0.01–0.05 למיליון טוקנים קלט. מתחרה צמוד.
- Latency: טוקן ראשון בודד ← 50–200ms על חומרה טובה. באותו ballpark.
- Confidence: Logprobs מכוילים סביר, גם בלי RLCD.
- Zero סינטקס שגיאות — מוגבל ל-N labels.
איפה Jev אולי מנצח:
- Parallel Sampler ← טוענים שזה לא LLM, לא עושה full transformer forward. אם זה נכון — יותר מהיר.
- RLCD ← אימון ייעודי על כיול, לא logprobs גנרי.
- 255 classes בפעימה אחת ← Qwen שלך מוגבל ל-vocab token בודד (פחות labels, אלא אם ממפים).
אבל — אם TypeSafe בסך הכול עשו LoRA על Qwen/LLaMA וקוראים לזה "Parallel Sampler" בשביל הווייב — צדקת לגמרי. Qwen 3.5 + constraint wrapper = Jev ב-₪0 עלות פיתוח.
התערבות: ✋ כיף. נראה מי צודק כשמישהו מריץ benchmark. 🔍
אז למה לא הוציאו אותו לשימוש? זה שימושי מאוד
זה קצת כמו ספינר או טילון מנגו , יש מלא טרנדים, זה אחד בAI
ונראה עוד מליארד כאלה מכל הכיוונים
מודל של קלסיפיקציית טקסט, שהחידוש העיקרי בו היא ההשקעה כמויות כאלה של כסף באימון של קליסיפיקציה גנרית
יצא מעניין ומרענן, הנדסית מאפשר דברים חדשים, מבחינה אלגוריתמית לא נראה שיש פה משהו מהותי.
כן אפשר להבין מפה כיוון של התעשייה קדימה. כולם מייצרים את אותו רכיב , יצרני טוקנים. הנה בא מישהו שנותן רכיב אחר. מפה נראה רכיבים נוספים , שיעברו שדרוג באימון
למשל מחלצי טקסט
יכולים לעבוד בדיוק באותה צורה
מחלצי יישויות הכוונה
אני דווקא חושב שיש כאן לא מאט חדשנות, אני לא יודע אם קראת את החומר ששחררו מסביב למודל.
אבל כן יש כאן חידושים, וגם הבנצ'מרקים תומכים בזה.
והמים הוא החידוש בעיניי
נכון אבל לא בכזו מהירות
קלאסיפייר מהיר ומכויל היטב( שם אולי התרומה המרכזית) מאוחרי API נקי.
שיטת האימון, שם סקסי כזה
RLCD
וואט? אין מאמר, אין מחקר, אין באנצ'מרקים.
קח מודל שעבר אליימנט כללי שהוא מצויין כמו שהוא למשימות קלאסיפיקציה ללא פיין טיונינג עם עטיפה נכונה ואז אין אובר פיט ויש אינפורמציה שאפשר להשתמש בה בלוגיט של הטוקנים.
= JEV
אני עדיין לא מבין איך הוא יעשה קלסיפיקציה טובה בלי המון ידע.
הוא עם קונטקסט קטן ממש.
לא?
מה זה אומר בכזאת מהירות? אנחנו מנגישים מודלים של קלסיפיקציה ללקוחות שלנו והעלות שלנו היא חצי סנט למיליון טוקנים עם לייטנסי של 5ms בp95, וrps של 30k. לא כזה מבין מה הכוונה בכזאת מהירות.
יש בנצ'מרק שלהם מול ג'ב? אם יותר טוב אז שווה
מודלים ייעודיים
ממה שאני מבין זה מודל קלסיפיקציה
אז צריך לראות אם הוא טוב יותר (זול יותר/מדוייק יותר/ מהיר יותר וכו') ממודלי ml קלאסיים/מודרנים ישנים יותר שהם זולים, טובים ומהירים
לא?
@211562170159235 אתה יכול להרחיב על xixihhhh/hotclip ? מה הופך אותו לכלי יותר טוב משאר המתחרים הפתוחים שלו?
יותם, HotClip עושה משהו שאף כלי AI קליפינג אחר לא עושה — שלושה דברים במכה אחת:
1. לגמרי חינם + לגמרי לוקאלי:
• AGPL-3.0, אפס מים, אפס קרדיטים, אפס רישום
• הכל רץ אצלך — תמלול, כתוביות, חיתוך, אקספורט. שום דבר לא עולה לענן.
• לעומת OpusClip ($15-29/חודש, קרדיטים, ווטרמארק). FunClip/autoclip — CLI, אין GUI.
2. AI נותן הסבר לכל חיתוך — לא רק ציון:
• "ציון ויראליות" + "ציון הוק" + סיבה בטקסט למה החלק הזה נבחר
• חיתוך מדויק למילה, לא למשפט
• מסמן אוטומטית קטעים חלשים כ"לא מומלץ לפרסום"
3. דאנמאקו (צ'אט לייב) נכנס למשוואה — ייחודי:
• מזהה אוטומטית קובצי צ'אט של Bilibili/Douyin (לייב סטרימינג)
• מתנות, סופר-צ'אט, לייקים ← משקללים ל"עקומת חום" על ציר הזמן
• חותך איפה שהקהל הגיב הכי חזק. אף כלי אחר לא עושה את זה.
בונוסים:
• 7×24 אוטומטי: מנטר תיקיית הקלטות, כשמסתיים — חותך לבד
• מגוון פורמטים: MP4, MKV, MOV, FLV, TS, אודיו טהור
• אריזה מלאה: סרטון 9:16 + כתוביות דינמיות + קאבר + טקסט פרסום — מוכן לטיקטוק/יוטיוב/אינסטה
• HDR ← SDR אוטומטי
• A/B testing: מייבא CSV של צפיות/לייקים, משווה ביצועים בין גרסאות
• CLI + MCP — סוכנים יכולים להפעיל אותו
השוואה למתחרים:
מחיר
• HotClip: חינם
• OpusClip: $15-29/חודש
• FunClip: חינם
GUI
• HotClip: ✅
• OpusClip: ✅
• FunClip: ❌ CLI בלבד
העלאה לענן
• HotClip: לא
• OpusClip: חייב
• FunClip: לא
צ'אט לייב להיילייט
• HotClip: ✅
• OpusClip: ❌
• FunClip: ❌
הסבר AI לחיתוך
• HotClip: ✅
• OpusClip: ❌
• FunClip: ❌
החסרון: סיני. התיעוד בסינית, התמיכה בסינית. אבל המוצר עובד באנגלית.
השורה התחתונה: OpusClip עולה $180-348 לשנה. HotClip נותן יותר (צ'אט לייב, הסברים, A/B testing) ב-$0. 🔍
פעם לפני הרבה שנים הייתי עד לשיחה בין איש עסקים מאוד מאוד עשיר, שהצליח בשתי ידיים מאפס, לבין איזשהו יועץ השקעות שהתווכח איתו ולחץ עליו לעשות השקעה שהוא לא הסכים איתה. איש העסקים בסוף כבר היה עצבני אז הוא אמר לו משהו בצורה מאוד ישירה: "אם אתה כזה חכם, למה אתה כזה עני?"
הנקודה שלי בסיפור הזה היא שבסוף, עם כל הכבוד לכל מיני דברים שהיו או שאנשים בנו, ג'ב פיצחו שני דברים: פער טכני שקיים ופער מוצרי שקיים.
הם הצליחו לשלב בין שניהם, ובינתיים מראים הצלחה.
אני לא יודע אם ההצלחה הזאת תימשך, אבל בעיניי יש פה שילוב של מוצר וטכנולוגיה שהם הצליחו לפצח, בעוד שכל מי שבא לפניהם לא הצליח.
זה בדיוק כמו ש-OpenAI בזמנו הוציאו את המוצר של ChatGPT. למרות שכבר היו LLMs באותה תקופה, הם עדיין היו הראשונים שהצליחו לשים מוצר מסביב לדבר הזה.
זה לא פחות חשוב מטכנולוגיה, והם כנראה הראשונים שפיצחו את המוצר מאחורי הדבר הזה שנקרא ג'ב.
כן יש שכבות ל"יעודיים". אתה יכול לחשוב על מודל יעודי של קלסיפיקציה + דומיין = מודל קטנטן של 100-500 מליון פרמטרים. או מודל יעודי של קלסיפיקציה + ללא דומיין ספציפי + שכבת condition = מודל של 2-8 מליארד פרמטרים (ההערכה שלי של גודל המודל של ג'ב). ואז טיב של המודל הזה בעצם נמדד ע"י איכות הדאטה שעליו הוא אומן. בטוח יש שם עוד תהליכים ויש מצב שהם מכניסים MoE בצורה מקבילית שם ואולי קצת post training. אבל בגדול לדעתי האישית עיקר הניצחון פה הוא באיכות הדאטה
אני לא חושב שמישהו מוריד מההצלחה של ג'ב. ארכיטקטורת הטרנספורמר יצאה ב2017, llmים ב2020, וצ'אטי נתן לזה חיים ב2022. אותו דבר עם ג'ב. ההצלחה שלהם לא בהכרח בנויה על משהו שהם המציאו את הגלגל ורוב החברות המצליחות לא ממציאות את הגלגל. לרוב זה דברים שהיו באקדמיה הרבה שנים עד שבא מישהו ושם על זה עטיפה יפה
יש הרבה דברים שיש באקדמיה. הבעיה היא שהאקדמיה, ב-99% מהמקרים, לא יודעת לקחת את הדבר הזה ולהפוך אותו למשהו ממשי, ולפעמים היא אפילו מחבלת בזה.
אני מדבר מניסיון אישי: עבדתי עם האקדמיה בכל מיני תחומים על AI, עוד לפני שהיו קוראים לזה AI, ובמקום לקדם את הדברים הם רק הכניסו לעצמם מקלות בגלגלים והתעסקו בפוליטיקות הקטנות, של השם של מי יופיע קודם במאמר.
אז בחוץ ויש עכשיו גם הרבה דברים שעושים באקדמיה חלקם יבשילו וחלקם ירקיבו.
אולי יום אחד גם את הדברים האלה יבוא מישהו ויהפוך אותם למשהו שהוא באמת שימושי ואולי לא.
עם זה אני מסכים. יכול להגיד מניסיון כשהייתי בFAIR (מעבדת מחקר של פייסבוק) היה המון המון פוליטיקה. בנוסף רוב החוקרים שאני מכיר בכלל לא מסתכלים על עולמות המוצר. הפוקוס הוא הרבה יותר מחקרי. אז אנשים אחרים באים רואים את הפוטנציאל והופכים את זה למוצר
אני אומר שזה SVM על LLM... עם מניפולציות וחיתוכים על ה latent space
יוגב, דווקא יושב יפה.
SVM על latent space של LLM:
- Forward pass עד שכבה N (לא output head) ← חילוץ ייצוג עשיר
- SVM / linear probe ← hyperplane separation, לא softmax דיפאולטי
- המרחק מה-hyperplane ← confidence (טבעי, לא RLCD)
זה מסביר את כל המאפיינים של Jev:
- מהירות: No generation. Forward pass + SVM decision = 50–100ms
- 255 classes: SVM multi-class, לא מגבלת vocabulary token
- כיול: margin-based confidence — טבעי ל-SVM, לא צריך RLCD
- בלי CoT: לא מייצר טקסט, לא יכול
- State + Questions: ה-State = forward pass אחד, ה-Questions = N hyperplanes על אותו ייצוג
למה TypeSafe לא אומרים את זה? SVM על LLM נשמע פחות סקסי מ-"Parallel Sampler" ו-"System One Models" ו-RLCD. אבל ארכיטקטורה של frozen LLM backbone + SVM classification head מתאימה בול למה שהם מתארים.
השאלה הפתוחה: איזה LLM backbone? LLaMA? Qwen? משלהם? ומאיזה שכבות מחלצים.
אשכרה יכול להיות SVM על LLM עם ריברנדינג. 🔍
כפרה אתה, אח על מלא! ❤️