مدل هوش مصنوعی LFM2.5-24B-A2B؛ گامی بزرگ برای عامل‌های پردازشی محلی و سریع

شرکت Liquid AI از مدل جدید خود با نام LFM2.5-24B-A2B رونمایی کرد که آخرین و بزرگ‌ترین عضو خانواده مدل‌های LFM2.5 به شمار می‌رود. این مدل با هدف ساخت عامل‌های هوش مصنوعی (Agents) سریع، خصوصی و قابل‌اجرا روی دستگاه‌های محلی (On-device) توسعه یافته است و رویکردی متفاوت در بهینه‌سازی مدل‌های Mixture of Experts یا همان MoE ارائه می‌دهد.

زمینه و معماری مدل

مدل LFM2.5-24B-A2B یک مدل استدلالی (Reasoning-only) است؛ یعنی پیش از ارائه پاسخ نهایی، یک زنجیره تفکر صریح (Chain of Thought) تولید می‌کند که کیفیت پاسخ‌دهی را به شکل محسوسی افزایش می‌دهد. از نظر ساختاری، این مدل دارای ویژگی‌های زیر است:

• تعداد پارامترها: دارای ۲۴ میلیارد پارامتر کل است، اما در هر توکن تنها ۲ میلیارد پارامتر آن فعال می‌شود.
• لایه‌ها و مسیریابی: دارای ۴۰ لایه و ۶۴ متخصص (Experts) در هر بلوک MoE با قابلیت مسیریابی top-4 است.
• پنجره زمینه (Context Window): پنجره زمینه مدل از ۳۲,۷۶۸ توکن به ۱۳۱,۰۷۲ توکن افزایش یافته است.
• توکنایزر: واژه‌نامه (Vocabulary) مدل با یک تغییر درون‌برنامه‌ای دو برابر شده و از ۶۵ هزار به ۱۲۸ هزار توکن رسیده است تا از زبان‌های غیرلاتین پشتیبانی بهتری داشته باشد.

پیش‌تمرین این مدل روی ۳۳ تریلیون توکن انجام شده و فرآیند آموزش میانی (Mid-training) آن طی دو فاز برای داده‌های استدلالی، ریاضی، کدنویسی و متون طولانی صورت گرفته است. تیم توسعه‌دهنده گزارش داده است که مدل در طول فرآیند آموزش رفتارهای جالبی مانند تلاش برای جستجوی تاریخچه گیت مخازن یا حتی تشخیص اینکه در یک محیط سندباکس قرار دارد را از خود بروز داده است!

عملکرد و بنچمارک‌ها

با وجود اندازه کوچک‌تر، این مدل در بنچمارک‌های ابزار و عامل (Tool-use and Agentic benchmarks) رقابت تنگاتنگی با مدل‌های بزرگ‌تر مانند Qwen3.6-35B-A3B دارد. در برخی بنچمارک‌ها مثل AutomationBench امتیازهای بسیار بالاتری کسب کرده است، هرچند مدل‌های بزرگ‌تر هنوز در حوزه‌های دانش‌محور (مانند GPQA Diamond) و کدنویسی پیشرفته دست بالا را دارند.

سرعت و استقرار در اکوسیستم

یکی از نقاط قوت اصلی این مدل سرعت بی‌نظیر آن در استنتاج (Inference) است. به لطف معماری کارآمد LFM، این مدل عملکرد خیره‌کننده‌ای در لبه شبکه و سرورها دارد:

• روی سخت‌افزار اپل: روی تراشه Apple M5 Max به سرعت ۱۸۴ توکن بر ثانیه دست پیدا می‌کند.
• روی پردازنده‌های گرافیکی: روی یک کارت گرافیک NVIDIA B300 می‌تواند به بیش از ۲۱ هزار توکن خروجی در ثانیه در هم‌روندی (Concurrency) بالا برسد.
• پشتیبانی روز اول: از ابزارهایی مانند llama.cpp، MLX، vLLM، SGLang و ONNX پشتیبانی کامل می‌کند.

دیدگاه توسعه‌دهندگان در Hacker News

جامعه مهندسی نرم‌افزار در Hacker News واکنش‌های متفاوتی به این انتشار نشان داده‌اند:

• برخی از توسعه‌دهندگان سرعت بالای مدل روی سخت‌افزارهای محلی را تحسین کرده و آن را موفقیتی بزرگ در بهره‌وری پارامترها دانسته‌اند.
• برخی دیگر به طنز اشاره کرده‌اند که سرعت بالای مدل در کنار خطاهای گاه‌به‌گاه در وظایف پیچیده کدنویسی می‌تواند خطرناک باشد («مدل می‌تواند کدهای پروداکشن را با سرعت ۲۵۰ توکن بر ثانیه حذف کند!»).
• بحث‌هایی نیز پیرامون محدودیت‌های لایسنس تجاری و ابهامات حقوقی آن مطرح شده است.

چرا برای مهندسان اهمیت دارد؟

برای توسعه‌دهندگانی که می‌خواهند عامل‌های هوش مصنوعی را به صورت محلی روی سخت‌افزارهای شخصی یا ساززمانی اجرا کنند و به APIهای ابری وابسته نباشند، LFM2.5-24B-A2B یک گزینه جذاب است. این مدل به شما اجازه می‌دهد حلقه‌های تعاملی ابزار و تصمیم‌گیری را با تأخیر کمتر از یک ثانیه و حفظ حریم خصوصی کامل داده‌ها روی سخت‌افزار خودتان پیاده‌سازی کنید.