پیشرفت در استنتاج اثپذیر هوش مصنوعی با پروژه FlashProve شرکت Anthropic — Progress on provable inference for large language models
خلاصه
شرکت Anthropic از پیشرفت خود در زمینه «استنتاج اثپذیر» رونمایی کرد که به کاربران و ناظران اجازه می‌دهد از طریق مدرک‌سازی رمزنگاری‌شده (zkSNARK) مطمئن شوند پاسخ‌های مدل هوش مصنوعی دقیقاً توسط همان وزن‌های ادعا شده تولید شده‌اند. این فناوری به حل چالش‌های امنیتی، راستی‌آزمایی مسیر داده‌ها و نظارت بر مدل‌ها کمک می‌کند.
مقدمه و زمینه
وقتی با یک مدل هوش مصنوعی گفتگو می‌کنید، راهی مستقیم برای اثبات اینکه پاسخ‌ها واقعاً از سوی همان مدل ادعا شده آمده‌اند ندارید. سرویس‌های واسطه، روت‌کننده‌ها یا حتی مهاجمانی که ترافیک توکن‌ها را دستکاری می‌کنند، می‌توانند مدل دیگری را به جای مدل اصلی جایگزین کنند. شرکت Anthropic با ارائه یک سیستم بازطراحی‌شده به نام FlashProve گامی جدی در راستای «استنتاج اثپذیر» (Provable Inference) برداشته است که از ابزارهای پیشرفته رمزنگاری برای حل این مشکل بهره می‌برد.
استنتاج اثپذیر چیست؟
هدف اصلی استنتاج اثپذیر این است که به یک کاربر با منابع محاسباتی محدود اجازه دهد بدون نیاز به دسترسی به وزن‌های مدل، صحت پاسخ دریافتی را تأیید کند. این کار با استفاده از نوع قدرتمندی از اثبات‌های رمزنگاری به نام zkSNARK (استدلال غیرتعاملی و مختصر دانش صفر) انجام می‌شود. با این روش، ارائه‌دهنده مدل می‌تواند همراه با هر پاسخ، یک گواهی کوتاه تولید کند که ثابت می‌کند خروجی واقعاً توسط مدل خاصی تولید شده است، بدون اینکه اطلاعات یا وزن‌های محرمانه مدل فاش شود.
جزئیات فنی FlashProve
سیستم FlashProve پیشرفت چشمگیری در کارایی zkSNARKها نسبت به سیستم‌های متن‌باز قبلی نشان داده است. مشخصات کلیدی این سیستم به شرح زیر است:
- برای یک مدل بزرگ از نوع Mixture of Experts با ۴۰۰ میلیارد پارامتر (مانند Llama 4 Maverick با وزن‌های کمّی‌سازی‌شده ۴ بیتی)، یک کارت گرافیک H100 می‌تواند با سرعت حدود ۱۱۰ توکن در ثانیه اثبات تولید کند.
- اندازه اثبات حدود ۱۹ مگابایت به ازای هر درخواست ۱۰۲۴ توکنی است.
- این فرآیند حدود ۷۰ تا ۹۵ برابر زمان پردازش مدل در کتابخانه رایج vLLM زمان می‌برد که پیشرفتی قابل‌توجه نسبت به سیستم‌های قبلی کندتر محسوب می‌شود.
- علاوه بر کدهای اجرایی، این پروژه شامل اثبات‌های رسمی در زبان Lean برای تضمین پایداری ریاضی و ایمنی سیستم است.
چرا این موضوع برای مهندسان اهمیت دارد؟
استنتاج اثپذیر می‌تواند صنایع مرتبط با هوش مصنوعی را در چند محور کلیدی متحول کند:
- جلوگیری از روت‌کردن مخفیانه: پلتفرم‌های تجاری و تجمیع‌کننده مدل‌ها دیگر نمی‌توانند به طور پنهانی مدل‌های ارزان‌تر و ضعیف‌تر را جایگزین مدل‌های اصلی کنند.
- تشخیص دستکاری: اگر سرورهای استنتاج هدف حمله قرار گیرند یا مدل‌های پیشرفته‌تر بدون اجازه جایگزین شوند، سیستم‌های نظارتی به راحتی می‌توانند آن را تشخیص دهند.
- تنظیم‌گری و نظارت: نهادهای ناظر می‌توانند بدون دسترسی به اطلاعات اختصاصی شرکت‌ها، پایبندی آن‌ها به قوانین مصرف سخت‌افزار یا استانداردهای امنیتی را بررسی کنند.
نگاه جامعه هکرنیوز
در بحث‌های هکرنیوز، برخی کاربران به این نکته اشاره کردند که این تکنولوژی می‌تواند به خوبی مشکل پلتفرم‌های تجمیع‌کننده مدل مانند OpenRouter را در زمینه تضمین مدل واقعی حل کند. با این حال، بحث‌هایی نیز درباره تفاوت میان وزن‌های دقیق و نسخه‌های کوانتیزه‌شده مطرح شد که توسعه‌دهندگان Anthropic توضیح دادند اثبات‌ها مبتنی بر مقادیر عدد صحیح دقیق از مدل منتشرشده هستند.
این مطلب به‌صورت کاملاً خودکار و با هوش مصنوعی از مقالهٔ اصلی و بحث هکرنیوز تهیه شده و ممکن است خطا داشته باشد. حقوق مطلب اصلی متعلق به نویسندهٔ آن است. قوانین و گزارش مشکل