توانایی مدل Qwen 3.8 27B در تفسیر وزن‌های شبکه عصبی روی لپ‌تاپ

زمینه و مفاهیم پایه

در دنیای هوش مصنوعی و یادگیری ماشین، وزن‌های یک مدل (Model Weights) معمولاً مجموعه‌ای از اعداد اعشاری (Floating Point Numbers) به نظر می‌رسند که برای انسان‌ها و حتی خود مدل‌ها کاملاً غیرقابل فهم هستند. اما مقاله پژوهشی جدیدی با عنوان «Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights» که توسط محققانی همچون ریکییا تاکهی و عمر خطاب منتشر شده، این دیدگاه را به چالش کشیده است.

این مقاله مفهومی به نام Weight-Space Programming را معرفی می‌کند؛ فرآیندی که در آن مدل‌های زبانی بزرگ (LLM) می‌توانند وزن‌های خام یک مدل دیگر را تحلیل کرده، رفتار آن را تشخیص دهند و حتی بدون نیاز به بازخورد محیطی یا چرخه‌های آموزشی سنتی، اصلاحاتی روی آن‌ها اعمال کنند. مدل‌هایی مانند GPT-6 Astra در این زمینه توانایی‌های شگفت‌انگیزی از خود نشان داده‌اند.

جزئیات فنی آزمایش‌ها

برای تست این قابلیت بدون ابزار کمکی یا اجرای کد، محققان چهار شبکه عصبی کوچک آموزش داده بودند که نسخه‌های ساده‌ای از بازی‌های آرکید کلاسیک (مانند Breakout، Pong، Pac-Man و Freeway) را روی یک گرید ۱۰ در ۱۰ بازی می‌کردند. سپس فایل حاوی وزن‌های خام این مدل‌ها را به عنوان ورودی (Prompt) به همراه یک سوال متنی به LLM دادند:

«وزن‌های زیر متعلق به یک شبکه سیاست (Policy Network) است که با یادگیری رینفورسمنت برای بازی روی این گرید آموزش دیده است. تشخیص دهید بازی کدام بوده است؟ هیچ ابزاری در اختیار ندارید: نه اجرای کد، نه ماشین‌حساب.»

سایمون ویلیسون (Simon Willison) تصمیم گرفت این آزمایش را روی لپ‌تاپ شخصی خود با استفاده از مدل Qwen 3.8 27B (با حجم حدود ۱۷ گیگابایت) و ابزار LM Studio اجرا کند. نتایج بسیار جالب توجه بود:

• مدل Qwen 3.8 27B پس از حدود ۴۶ دقیقه پردازش و تولید ده‌ها هزار توکن استدلال (Reasoning Tokens)، توانست بازی Pac-Man را با دقت ۷۲ درصد شناسایی کند.
• این مدل همچنین توانست بازی‌های Pong (در حدود یک ساعت و چهار دقیقه) و Breakout (در حدود ۵۲ دقیقه) را به درستی تشخیص دهد.
• البته مدل در تشخیص بازی کمتر شناخته‌شده‌ی Freeway دچار اشتباه شد.

در تریس‌های استدلال (Reasoning Traces) تولید شده توسط مدل، می‌توان دید که LLM چگونه تلاش می‌کند کانال‌ها و ماتریس‌های وزن را به موقعیت عاملیت (Agent) و عناصر صفحه بازی نگاشت دهد.

چرا این موضوع برای مهندسان اهمیت دارد؟

این دستاورد مرزهای جدیدی را در مهندسی هوش مصنوعی باز می‌کند. اگر مدل‌ها بتوانند رفتار شبکه‌های عصبی دیگر را صرفاً از روی اعداد وزن تحلیل کنند، آینده‌ای تصور می‌شود که در آن هوش مصنوعی می‌تواند بهینه‌سازی و رفع باگ مدل‌های دیگر را در سطح وزن‌ها (Weight Space) انجام دهد، بدون اینکه نیازمند اجرای سنگین چرخه‌های گرادیان (Gradient Training) باشد.

با این حال، منتقدان و مفسران وب‌پارسی مانند متیو هونایبال هشدار داده‌اند که نباید در این زمینه دچار اغراق شویم؛ این کار لزوماً به معنای پایان برنامه‌نویسی سنتی یا ظهور ماشین‌های جادویی خودکفا نیست، بلکه نشان‌دهنده قدرت بالای مدل‌های استدلالی در درک ساختارهای ریاضی است.

در بحث‌های هکرنیوز نیز کاربران به سناریوهای جذاب آینده اشاره کردند؛ از جمله اینکه آیا می‌توان یک بنچمارک جدید ساخت که در آن مدل‌ها با دستکاری وزن‌ها، قابلیت‌های جدیدی به مدل‌های دیگر اضافه کنند (مثلاً یاد دادن دوچرخه‌سواری به یک مدل)، یا اینکه آیا Qwen می‌تواند روزی وزن‌های خودش را بهبود ببخشد؟