استعفای پژوهشگران Google DeepMind در اعتراض به قراردادهای نظامی هوش مصنوعی

توسعه و به‌کارگیری مدل‌های هوش مصنوعی در صنایع دفاعی بار دیگر تنش‌های اخلاقی و سازمانی عمیقی میان مهندسان و مدیران غول‌های فناوری ایجاد کرده است. اخیراً چند تن از پژوهشگران و مهندسان ارشد در Google DeepMind، از جمله سوفیا لیگوری (Sofia Liguori) و آندریاس کیرش (Andreas Kirsch)، در اعتراض به امضای قراردادهای نظامی جدید میان Google و وزارت دفاع ایالات متحده (پنتاگون) از سمت‌های خود استعفا داده‌اند.

این تصمیم در پی آن اتخاذ شد که دولت آمریکا استراتژی تبدیل ارتش به یک «نیروی جنگی مبتنی بر هوش مصنوعی اول» (AI-first warfighting force) را با سرعتی بی‌سابقه در دستور کار قرار داده و شرکت‌هایی مانند Google، OpenAI، Microsoft، Amazon و Palantir قراردادهایی برای یکپارچه‌سازی مدل‌های خود در محیط‌های طبقه‌بندی‌شده نظامی امضا کرده‌اند.

پلتفرم‌های نظامی و نقش مدل‌های هوش مصنوعی

نقطه مرکزی همکاری‌های فنی پنتاگون با شرکت‌های بزرگ فناوری، سیستمی تحت عنوان Maven Smart Systems است که توسط شرکت Palantir توسعه داده شده است. این پلتفرم از مدل‌های یادگیری ماشین و پردازش داده برای تحلیل سریع داده‌های ماهواره‌ای، پهپادی و اطلاعاتی بهره می‌برد تا فرآیند شناسایی اهداف و اتخاذ تصمیمات در میدان نبرد را تسریع کند.

اگرچه طبق بیانیه‌ها این فناوری‌ها ملزم به رعایت چارچوب‌هایی نظیر حضور «نظارت انسانی» (Human-in-the-loop) و منع استفاده مستقیم در سلاح‌های کاملاً خودمختار بدون اپراتور هستند، پژوهشگران مستعفی معتقدند مرزهای این نظارت در عمل از بین رفته است. قراردادهای جدید اختیارات پنتاگون در استفاده از مدل‌ها را به‌شدت افزایش داده و دسترسی Google را برای اعمال حق وتو یا حتی پایش نحوه استقرار سیستم‌ها محدود کرده است.

چالش‌های فنی: سرعت، توهم مدل و فشرده‌سازی زمان تصمیم‌گیری

یکی از مهم‌ترین دغدغه‌هایی که توسعه‌دهندگان و متخصصان سیستم‌های خودران مطرح می‌کنند، عدم بلوغ فنی مدل‌های فعلی برای محیط‌های حساس و مرگبار است:

• فشرده‌شدن زمان تصمیم‌گیری (Time Compression): سرعت بالای سیستم‌های هوش مصنوعی در تولید خروجی، زمان ارزیابی را برای اپراتور انسانی به حداقل می‌رساند. وقتی یک سیستم به جای چند مورد، صدها هدف بالقوه را در چند ثانیه پیشنهاد می‌دهد، عملاً بررسی دقیق خروجی‌ها و رد خطاهای احتمالی از توان ذهنی انسان خارج می‌شود.
• ناپایداری و توهم مدل‌ها (Hallucination): مدل‌های پایه کنونی برای شرایط پُرآشوب، پویا و توزیع‌نیافتهٔ (Out-of-Distribution) میدان جنگ آموزش ندیده‌اند و خطاهای تصادفی آن‌ها می‌تواند به فجایع انسانی منجر شود.
• کاهش فازهای اعتبارسنجی: به گفته کارشناسان، مسابقه سرعت میان دولت‌ها باعث شده اصول مهندسی، تست‌های استرس و فازهای سخت‌گیرانهٔ Evaluation فدای استقرار سریع فناوری شوند.

بازخوردها و زاویه دید مهندسان

در جامعهٔ فنی و در میان کاربران Hacker News، واکنش‌ها به این خبر چندگانه بوده است. گروهی با استناد به قرارداد ۱.۲ میلیارد دلاری قبلی یعنی Project Nimbus برای اسرائیل، از این که ارزش‌های اخلاقی اولیه DeepMind در مسابقه تجاری قربانی شده ابراز تأسف می‌کنند.

در مقابل، برخی کاربران به ابعاد واقع‌گرایانه اشاره کرده‌اند: در شرکتی با نزدیک به ۲۰۰ هزار نیرو، استعفای دو پژوهشگر اروپایی لزوماً نشان‌دهنده یک تغییر مسیر بنیادین سازمانی نیست. همچنین این استدلال مطرح شد که اگر شرکت‌های فناور غربی در همکاری با دولت‌های دموکراتیک پیش‌قدم نشوند، رقبا در چین و روسیه دست بالاتر را در توسعه تسلیحات مبتنی بر AI خواهند داشت.

با این حال، این استعفاها نشان‌دهنده یک واقعیت انکارناپذیر است: شکاف عمیقی میان آرمان‌های پژوهشی مهندسان سازنده هوش مصنوعی و اهداف راهبردی شرکت‌هایی که در پی قراردادهای چندمیلیارد دلاری دولتی هستند شکل گرفته که با هر نسل جدید مدل‌ها عمیق‌تر می‌شود.