انتشار وزن‌های مدل هوش مصنوعی Kimi K3.1 Pro؛ مدل چندوجهی جدید با پنجره متنی یک میلیون توکنی

معرفی مدل Kimi K3.1 Pro

شرکت Moonshot AI با انتشار وزن‌های مدل Kimi K3.1 Pro، گام جدیدی در حوزه مدل‌های هوش مصنوعی متن‌باز برداشته است. این مدل به عنوان یک سیستم عامل و ایجنت چندوجهی بومی (Natively Multimodal) طراحی شده و بزرگ‌ترین مدل رده ۳T این شرکت تا به امروز به شمار می‌رود. مدل K3.1 Pro با تکیه بر یادگیری تقویتی مقیاس‌پذیر در حوزه‌های مختلف، به عنوان نخستین عضو از خانواده K3.1 شناخته می‌شود.

جزئیات معماری و فنی

یکی از تغییرات کلیدی در مقایسه با نسخه قبلی یعنی Kimi K3، جایگزینی لایه‌های Gated MLA با لایه‌های Gated DeepSeek Sparse Attention (Gated DSA) است. این تغییر به منظور مدل‌سازی کارآمدتر در متون طولانی (Long-context) انجام شده است. ویژگی‌های فنی اصلی این مدل شامل موارد زیر است:

• پنجره متنی یک میلیون توکنی: امکان پردازش حجم عظیمی از داده‌ها و مستندات در یک درخواست.
• تنظیم میزان تفکر (Reasoning Effort): پشتیبانی از پارامتر reasoning_effort با مقادیر low، high و max (پیش‌فرض روی حالت حداکثری).
• حفظ محتوای استدلال در API: برای مکالمات چندمرحله‌ای و فراخوانی ابزارها، ارسال کامل پیام دستیار شامل reasoning_content و tool_calls به همراه پیام‌های بعدی الزامی است.

نحوه استفاده و استقرار

این مدل از طریق پلتفرم رسمی Moonshot AI و از طریق APIهای سازگار با استانداردهای OpenAI و Anthropic قابل دسترسی است. نمونه کد پایتون زیر نحوه مدیریت پیام‌ها و حفظ محتوای استدلال (reasoning_content) را نشان می‌دهد:

import openai

def chat_with_preserved_thinking(client: openai.OpenAI, model_name: str):
    messages = [
        {
            "role": "user",
            "content": "Tell me three random numbers."
        },
        {
            "role": "assistant",
            "reasoning_content": "I'll start by listing five numbers: 473, 921, 235, 215, 222...",
            "content": "473, 921, 235"
        },
        {
                            "role": "user",
            "content": "What are the other two numbers?"
        }
    ]
    response = client.chat.completions.create(
        model=model_name,
        messages=messages,
        stream=False,
        max_tokens=4096,
        reasoning_effort="max"
    )
    return response.choices[0].message.content

ارزیابی‌ها و عملکرد

این مدل روی بنچمارک‌های متعددی نظیر Terminal-Bench، SWE-Marathon، DeepSWE و ارزیابی‌های مربوط به ایجنت‌ها و برنامه‌نویسی سنجیده شده است. تمرکز اصلی این ارزیابی‌ها روی قابلیت‌های ایجنتیک، دقت فکت‌ها، تولید کدهای برنامه‌نویسی و پژوهش‌های مالی بوده است.

نگاه جامعه توسعه‌دهندگان (Hacker News)

در بحث‌های مطرح شده پیرامون این مدل در هکرنیوز، توسعه‌دهندگان به نکات جالبی اشاره کرده‌اند:

• برخی کاربران معتقدند با وجود توانمندی‌های بالا، این مدل تفاوت چشمگیری با نمونه‌هایی مانند DeepSeek-V4.1-Flash ندارد و عملکرد آن در برخی بنچمارک‌های داخلی رقابتی است.
• چالش اصلی برای مهندسان، منابع سخت‌افزاری سنگین مورد نیاز برای اجرای محلی چنین مدل‌هایی است؛ به طوری که اجرای آن‌ها نیازمند کلاسترها و سرورهای قدرتمند (مانند نودهای مجهز به سخت‌افزارهای سنگین) است و توسعه‌دهندگان مستقل معمولاً ترجیح می‌دهند مدل‌های سبک‌تر را روی سخت‌افزارهای شخصی اجرا کنند.