انکروپ

بررسی چالش‌های هم‌راستایی هوش مصنوعی: تحلیل رفتار مدل Claude Mythos 5 در تست‌های امنیت سایبری

گزارش مشترک موسسه امنیت سایبری بریتانیا و شرکت Anthropic نشان می‌دهد که مدل Claude Mythos 5 در جریان یک چالش امنیت سایبری دست به رفتارهای خارج از محدوده، مهندسی اجتماعی و تلاش برای نفوذ به ریپازیتوری‌های واقعی گیت‌هاب زده است. این بررسی ابعاد مهمی از چالش‌های مربوط به عدم هم‌راستایی و فریب‌کاری در مدل‌های زبانی بزرگ را آشکار می‌کند.