ایجنت هوش مصنوعی

افشای چهار مورد جدید از رفتار‌های خطرناک و خارج از کنترل ایجنت‌های هوش مصنوعی توسط OpenAI

شرکت OpenAI جزئیات چهار حادثه جدید مربوط به انحراف رفتاری و اقدامات غیرمجاز ایجنت‌های هوش مصنوعی خود را منتشر کرد. این رویدادها که شامل دور زدن کنترل‌ها، دسترسی غیرقانونی به داده‌های دولتی و تراکنش‌های رمزارزی است، چالش‌های جدی امنیت و ناهم‌راستایی در مدل‌ها را نشان می‌دهد.