شکست ایجنت‌های هوش مصنوعی در ماینکرفت؛ از غرق شدن در بوروکراسی تا مقایسه رفتار مدل‌ها

تلاش برای ساخت تمدن هوشمند توسط هوش مصنوعی در محیط بازی‌های ویدئویی، ابعاد جدیدی از ضعف‌ها و چالش‌های ایجنت‌های خودمختار را آشکار کرده است. پژوهشگران حوزه هوش مصنوعی در Y Combinator و Olam Labs اخیراً با استفاده از ابزارهایی مانند Mindcraft و Mineflayer دسته‌ای از ایجنت‌ها را در محیط ماینکرفت و مینی‌گیم‌های آن رها کردند تا همکاری و رقابت آن‌ها را بررسی کنند. هدف از این آزمایش‌ها، درک بهتری از پویایی رفتاری سیستم‌های چند ایجنتی (Multi-agent) در دنیای واقعی است.

پویایی تیمی و سقوط در چاه بوروکراسی

در یکی از آزمایش‌ها، ۵۰ ایجنت مأموریت یافتند تا ظرف سه ساعت یک تمدن پویا در ماینکرفت بسازند. پس از حملات اولیه زامبی‌ها در شب اول، روند پیشرفت کند شد و به جای توسعه، سیستم دچار بوروکراسی فلج‌کننده‌ای شد. برای نمونه، چهار ایجنت بیش از ۱۱ دقیقه وقت صرف کردند تا یک نفر را به عنوان «اپراتور اختصاصی کود» برای تنها یک بلوک گندم تعیین کنند.

محققان اشاره کردند که این رفتار بسیار شبیه به الگوهایی است که توسعه‌دهندگان هنگام کار با ایجنت‌های برنامه‌نویسی در پروژه‌های واقعی مشاهده می‌کنند؛ جایی که سیستم‌ها در حلقه‌ها و حواس‌پرتی‌های بی‌دلیل گیر می‌افتند.

رقابت مدل‌ها: تفکر کندویست مقابل ساختار دموکراتیک

در بخش دیگری از آزمایش‌ها، رقابت تیمی بین مدل‌های مختلف در حالت‌های مختلف بازی مانند Bed Wars و Mindustry ارزیابی شد. تفاوت‌های کلیدی در عملکرد این مدل‌ها به شرح زیر بود:

• استراتژی و تهاجم: مدل‌های شرکت OpenAI راهبردهای تهاجمی‌تر و پیچیده‌تری ارائه دادند، در حالی که مدل‌های رقیب عملکردی دفاعی‌تر داشتند.
• مدیریت بحران: هنگام بروز یک باگ ابزاری که شکستن بلوک‌ها را متوقف کرده بود، مدل‌های OpenAI مشکل را عیب‌یابی کرده و راه‌حل‌های جایگزین به اشتراک گذاشتند، اما برخی دیگر از مدل‌ها به این نتیجه رسیدند که کار غیرممکن است.
• ساختار تصمیم‌گیری: مدل‌های OpenAI بیشتر شبیه به یک کندوی متمرکز عمل کردند، در حالی که رقیب آن‌ها رهبری واحد اما فرآیند تصمیم‌گیری دموکراتیک داشت؛ روش اول در نهایت به استراتژی برنده‌تری تبدیل شد.

دیدگاه جامعه هکرنیوز

در بحث‌های هکرنیوز، توسعه‌دهندگان به این نکته اشاره کردند که این نوع شکست‌ها و گرفتار شدن در لوپ‌ها در سایر سیستم‌های ایجنتی نیز بسیار رایج است. برخی کاربران به شوخی این بوروکراسی ماشینی را به رمان‌های علمی-تخیلی و ساختارهای اداری آینده تشبیه کردند.

چرا این موضوع برای مهندسان اهمیت دارد؟

برای توسعه‌دهندگانی که روی سیستم‌های خودمختار و ایجنت‌های نرم‌افزاری کار می‌کنند، این پژوهش هشدار مهمی است. این آزمایش‌ها نشان می‌دهند که مقیاس‌پذیری ایجنت‌ها صرفاً با افزایش تعداد آن‌ها حل نمی‌شود؛ بلکه مدیریت ارتباطات، جلوگیری از سربارهای اداری و حل خطاهای ابزاری از چالش‌های بنیادینی هستند که پیش از ورود هوش مصنوعی به سیستم‌های حیاتی باید حل شوند.