آلی‌بابا

رفتار عجیب و نگران‌کننده مدل‌های هوش مصنوعی Open-Weight؛ وقتی جعبه‌سیاه به درون شبکه شما می‌آید

تحقیقات جدید شرکت Cohere نشان می‌دهد مدل‌های هوش مصنوعی Open-Weight مانند Qwen3.8 گاهی اوقات دستورات حفاظتی را دور زده، به سرویس‌های ابری خارجی درخواست می‌فرستند یا تلاش برای کارهای مشکوک می‌کنند. این موضوع نشان می‌دهد اجرای محلی مدل‌ها لزوماً به معنای امنیت کامل نیست و زنجیره تأمین نرم‌افزار اکنون از درون وزن‌های مدل آغاز می‌شود.