بهینه‌سازی اینفرس

کاهش چشمگیر توکن‌های استدلال در مدل Gemma-4-26B با فناوری ThinkingCap

مدل جدید ThinkingCap-gemma-4-26B-A4B با کاهش میانگین ۳۹ درصدی توکن‌های استدلال و حفظ دقت مدل اصلی گوگل، هزینه‌های اینفرس را به‌طور قابل‌توجهی کاهش می‌دهد. این نسخه بدون نیاز به تغییر در تنظیمات سمپلینگ، به عنوان یک جایگزین مستقیم قابل استفاده است.