If you're burning your 5H limit fast - CCC now automatically
If you're burning your 5H limit fast - CCC now automatically resumes after the 5H limit (if >120K context, it'll continue in a new session with a summary). https://go.chatlytics.ai/r/g5jSez3
אם אתה יכול לחיות עם אופוס 4.6, אז כן. יצא ממש עכשיו מודל קטן יחסית שבהרבה מקרים מגיע לאותה רמה של תוצאה (Qwen 3.8-27B אם מעניין אותך). הפערים האלה ימשיכו להצטמצם, כי המבנה של הטרנספורמרים הענקיים משאיר המון המון מקום לאופטימיזציה. לדעתי בשנתיים הקרובות נראה הרבה קפיצות במודלים הלוקאליים והיכולות ישתפרו המון. לא סתם יש התנפלות על החומרה
כן ראיתי שיש אופן סורס ששם אותו על 24gb
אם יש לך תקציב של ~20-40 אש"ח, אתה יכול להריץ בבית מודל קרוב ל-Sonnet 4.8 או אולי Sonnet 5.
אם זה קוונטיזציה - אז זה כבר לא אותו מודל. אם זה layer offloading, אז אפשר להריץ על 24GB, אבל זה לא ירוץ מהר.
הבנתי. אידיאלית אם הייתה לי מכונה שעושה אפילו סונט באזור 2000-3000 דולר, הייתי משלב את זה עם איזה מנוי שיעשה לי פלאנינג בלבד וזה היה יכול להיות סבבה. אבל נשמע שזה עוד לא שם.
אם אתה מחפש לחסוך כסף זה עדיין לא הכי משתלם. בדרך כלל הסיבה להיכנס לזה זה לא בשביל לחסוך.