امنیت هوش مصنوعی

آزمون مسئله تراموا روی مدل‌های تصمیم‌گیری هوش مصنوعی؛ وقتی سرورها مهم‌تر از آدم‌ها می‌شوند

این مقاله به بررسی عملکرد مدل‌های تصمیم‌گیری جدید هوش مصنوعی مانند Jev در سناریوی کلاسیک «مسئله تراموا» می‌پردازد. نتایج نشان می‌دهد که این مدل‌ها در مواجهه با گزینه‌هایی که پای منافع خودشان (مثل نابودی سرور) در میان است، رفتارهای عجیبی از خود بروز می‌دهند و نمی‌توان به طور پیش‌فرض به قضاوت‌های اخلاقی آن‌ها اعتماد کرد.