معرفی مدل Mercury 3؛ اثبات مقیاس‌پذیری مدل‌های زبانی دیفیوژن

مقدمه‌ای بر مدل Mercury 3

مدل‌های زبانی بزرگ (LLM) سنتی تقریباً همگی بر پایه معماری اتورگرسیو (Autoregressive) ساخته شده‌اند؛ به این معنا که توکن‌ها را یکی پس از دیگری تولید می‌کنند. اما شرکت Inception Labs با معرفی Mercury 3 ثابت کرد که مدل‌های مبتنی بر دیفیوژن (Diffusion-based LLMs) نیز می‌توانند مقیاس‌پذیر شوند و با مدل‌های پیشرفته بازار رقابت کنند. این مدل بیش از ۴۰ برابر بزرگ‌تر از نسخه اول Mercury است و هوش آن روی بنچمارک‌های مختلف رشد چشمگیری داشته است.

ویژگی‌های فنی کلیدی

برای توسعه‌دهندگانی که به دنبال کاهش تأخیر (Latency) در برنامه‌های خود هستند، Mercury 3 مشخصات فنی قابل توجهی ارائه می‌دهد:

• سرعت پردازش: دستیابی به سرعت بیش از ۱,۰۰۰ توکن در ثانیه روی پردازنده‌های گرافیکی NVIDIA.
• پنجره زمینه (Context Window): پشتیبانی از ۱ میلیون توکن که جهشی بزرگ نسبت به نسخه پیشین محسوب می‌شود.
• کیفیت خروجی: عملکردی هم‌سطح یا بهتر نسبت به مدل‌های بهینه‌شده برای سرعت در بازار.
• سازگاری با API: این مدل کاملاً با OpenAI API سازگار است و بدون نیاز به بازنویسی کدها می‌توانید آن را به استک فعلی خود اضافه کنید.

کاربردها در دنیای واقعی

سرعت بالای تولید توکن در Mercury 3 امکان پیاده‌سازی سناریوهای جدیدی را فراهم می‌کند که پیش از این به دلیل تأخیر بالا عملاً غیرقابل استفاده بودند:

• ایجنت‌های مرورگر (Browser Use Agents): در کارهایی که ایجنت باید مراحل متعددی را طی کند، تأخیر کم مدل باعث می‌شود به جای معطلی زیاد، مسیرهای بیشتری را برای حل مسئله امتحان کند.
• آموزش تعاملی و دستیارهای صوتی: برنامه‌هایی مثل آموزش زبان یا معلمان صوتی نیازمند بازخورد آنی هستند تا کاربر حس مکالمه با یک انسان را داشته باشد.
• جستجوی بلادرنگ: پردازش ده‌ها سند و ارائه پاسخ در کمتر از چند ثانیه روی دستگاه‌هایی مثل عینک‌های هوشمند.

نگاه جامعه توسعه‌دهندگان در Hacker News

بحث‌های پیرامون این انتشار در هکرنیوز بسیار داغ بود. برخی از برنامه‌نویسان با تست کردن این مدل در ابزارهای شخصی (مانند ساخت ابزارهای OCR و ترجمه بلادرنگ در سیستم‌عامل) از سرعت و عملکرد آن ابراز شگفتی کردند. همچنین کاربران به این نکته اشاره کردند که تمرکز روی افزایش سرعت و کاهش تأخیر، دریچه‌ای به سوی رابط‌های کاربردی جدید باز می‌کند که مدل‌های کندتر از پس آن برنمی‌آیند.

چرا برای مهندسان اهمیت دارد؟

برای مهندسی نرم‌افزار و توسعه سامانه‌های هوش مصنوعی، بزرگ‌ترین مانع در تجربه کاربری، زمان انتظار برای دریافت پاسخ (Time to First Token و سرعت کل خروجی) است. مدل‌های دیفیوژن با اثبات قابلیت مقیاس‌پذیری در Mercury 3، گزینه‌ای جدی برای سناریوهای نیازمند پاسخ‌های بلادرنگ (Real-time) به شمار می‌روند و قیمت‌گذاری اقتصادی آن‌ها نیز استفاده در مقیاس وسیع را توجیه‌پذیر می‌کند.