معرفی Timestral؛ مدل‌های پایه سری‌های زمانی شرکت Mistral

شرکت Mistral با معرفی Timestral، رسماً وارد حوزه مدل‌های پایه سری‌های زمانی (TSFM) شد. این خانواده مدل جدید در چهار اندازه مختلف از ۵ تا ۲۰۹ میلیون پارامتر توسعه یافته است و به گفته سازندگان، بزرگ‌ترین نسخه آن توانسته رتبه‌های برتر بنچمارک‌های معتبر این حوزه نظیر GIFT-Eval، TIME و fev-bench را با تعداد پارامترهای کمتر نسبت به رقبا از آن خود کند.

زمینه و ضرورت مدل‌های پایه سری‌های زمانی

داده‌های سری‌های زمانی از رایج‌ترین انواع داده‌ها در سطح سازمانی هستند؛ از تله‌متری حسگرها گرفته تا معیارهای قابلیت مشاهده (Observability) در سیستم‌های نرم‌افزاری. تصمیم‌گیری‌های حیاتی در حوزه‌هایی مانند برنامه‌ریزی ظرفیت، انرژی، زنجیره تأمین و نگهداری تجهیزات به این پیش‌بینی‌ها وابسته‌اند.

ابزارهای کلاسیک مانند ARIMA یا رگرسیون خطی معمولاً برای یک سری خاص به صورت مجزا بهینه‌سازی می‌شوند و الگوهای بین سری‌های مختلف را یاد نمی‌گیرند. مدل‌های یادگیری عمیق سنتی نیز اغلب از صفر روی هر مجموعه داده آموزش می‌بینند. مدل‌های پایه (Foundation Models) با ایده پیش‌آموزش روی پیکره‌های بزرگ، امکان یادگیری صفرشات (Zero-shot) را در حوزه‌های جدید و داده‌های کمیاب فراهم می‌کنند.

ویژگی‌های کلیدی فنی Timestral

تیم سازنده برای دستیابی به این نتایج، رویکردهای مهندسی خاصی را ترکیب کرده است:

• پیش‌بینی افق تفکیک‌شده (Decooupled Horizon Forecasting - DHF): برخلاف دیکودرهای علی سنتی که با ماسک کردن بخش‌های مورد پیش‌بینی باعث از دست رفتن زمینه برای گام‌های بعدی می‌شوند، DHF تاریخچه کامل را در توالی حفظ کرده و توکن‌های پیش‌بینی یادگرفته‌شده، تاریخچه قبل از خود را می‌خوانند.
• توجه آگاه از متغیرهای کمکی (Covariate-aware Attention): به هر سری ورودی نقشی اختصاص داده می‌شود (متغیر هدف، متغیر کمکی گذشته‌محور یا آینده‌محور). متغیرهای آینده‌محور مانند تقویم تعطیلات یا پیش‌بینی آب‌وهوا به شکلی اعمال می‌شوند که داده‌های آینده به اشتباه به عنوان هدف نشت نکنند.
• داده‌های ترکیبی اولیه (Synthetic-first Data): بخش عمده‌ای از داده‌های پیش‌آموزش این مدل‌ها مصنوعی بوده و الگوهای زمانی منسجم، روندها و نویزهای متنوع را شبیه‌سازی کرده‌اند.
• آموزش دو مرحله‌ای: مدل‌ها ابتدا در مقیاس وسیع روی داده‌های مصنوعی و سپس روی ترکیبی از داده‌های واقعی و مصنوعی با کانتکست طولانی‌تر آموزش دیده‌اند.

کارایی و عملکرد در دنیای واقعی

یکی از نقاط قوت مهم Timestral عدم نیاز به پردازنده‌های گرافیکی (GPU) سنگین در زمان استنتاج (Inference) است. روی یک سرور معمولی CPU با ۸ ترد، پیش‌بینی یک روز آینده با مدل ۵ میلیونی تنها ۱۰ میلی‌ثانیه و با مدل ۲۰۹ میلی‌ثانیه حدود ۱۴۰ میلی‌ثانیه زمان می‌برد.

این مدل‌ها از پیش‌بینی‌های probabilistic (احتمالی)، multivariate (چندمتغیره) و استفاده از داده‌های دسته‌بندی‌شده و آینده‌محور پشتیبانی می‌کنند. برای سازمان‌هایی که نیاز به تطبیق مدل با داده‌های اختصاصی خود دارند نیز امکان پایپ‌لاین آموزش و Fine-tuning از طریق Mistral Forge فراهم شده است.

نگاه جامعه برنامه‌نویسان در Hacker News

در بحث‌های هکرنیوز، توسعه‌دهندگان به این نکته اشاره کردند که استفاده از مدل‌های پایه چقدر کار ساخت سامانه‌های پیش‌بینی را نسبت به گذشته آسان‌تر کرده است؛ کاری که روزی ماه‌ها زمان می‌برد اکنون در چند دقیقه با کمک ابزارهای هوش مصنوعی و این مدل‌ها قابل انجام است. با این حال، برخی کاربران نیز درباره گستردگی بیش از حد مفهوم «سری‌های زمانی» و چالش‌های مجوزهای انتشار بحث‌هایی را مطرح کردند.