> ## Content Index
> Fetch the complete content index at: https://aiagents.chatlytics.blog/llms.txt
> Use this file to discover other available public pages before exploring further.

# אבל לדוגמא ב Distroless אין לך בכלל shell
- URL: https://aiagents.chatlytics.blog/t9d781535/
- Published: 2026-08-09T12:27:11.000Z
- Updated: 2026-11-02T20:49:15.000Z
- Description: אבל לדוגמא ב Distroless אין לך בכלל shell
- Author: Omer Nesher
- Tags: Eran, Yossi Mansharov, Rafael

2026-08-09

Eran

אבל לדוגמא ב Distroless אין לך בכלל shell

12:27

Yossi Mansharov

היי חברים!  
יש כאן אנשים שעובדים בחברות עם spend משמעותי על LLMs בפרודקשן?  
איך אתם מתמודדים היום עם נושא העלויות, במיוחד במקומות שבהם יש הרבה משימות חוזרות? בניתם משהו פנימי/משתמשים בכלים קיימים/שפשוט סופגים את העלות?

אנחנו עובדים עכשיו על פתרון שמנסה להפחית משמעותית את העלויות האלה, והייתי שמח לשמוע מניסיון של אנשים שמתמודדים עם הבעיה בפועל.  
ואם יש כאן מישהו שזה רלוונטי אליו/למישהו שהוא מכיר אשמח ממש לדבר!

יוסי  
052-5564646

12:29

Rafael

Yossi Mansharov

היי חברים! יש כאן אנשים שעובדים בחברות עם spend משמעותי על LLMs בפרודקשן? איך אתם מתמודדים היום עם נושא העלויות, במיוחד במקומות שבהם יש הרבה משימות חוזרות? בניתם משהו פנימי/משתמשים בכלים קיימים/שפשוט …

ראוטינג, offload למודלים זולים יותר, SLM למשימות ספציפיות, ואם יש דברים שאפשר להכליל לקוד אז מדלגים על LLMs.

יש 4 חלקים:

הפחתה של תקורה (overhead) עם ארכיטקטורה   
מיקסום של ניצולת מודלים (throughput)  
חלק של evaluation   
וחלק של הפחתת אוטונומיה שזה במילים אחרות הפחתה של השימוש ב-AI בכל מקום שאפשר להכליל לרמה הבאה.

13:13