دستورالعمل‌های پنهان LLM در صفحات راهنمای واتس‌اپ؛ چطور ربات‌های پشتیبان از ارجاع کاربران به رگولاتورها منع شده بودند

مقدمه و زمینه

با فراگیر شدن مدل‌های زبانی بزرگ (LLM) و استفاده شرکت‌ها از آن‌ها در بخش پشتیبانی مشتریان، چالش‌های جدیدی پیرامون نحوه هدایت این ربات‌ها ایجاد شده است. اخیراً در جریان یک بررسی فنی مشخص شد که صفحات راهنمای واتس‌اپ حاوی دستورالعمل‌های متنی پنهانی بوده‌اند که به طور خاص برای خوانده شدن توسط هوش مصنوعی طراحی شده‌اند، نه کاربران انسانی. این دستورات به ربات پشتیبان واتس‌اپ دیکته می‌کردند که در شرایط خاصی مانند مسدود شدن اکانت یا طرح دعوای حقوقی، چه اطلاعاتی را از کاربر پنهان نگه دارد.

جزئیات فنی و نحوه پیاده‌سازی

این بلوک‌های متنی پنهان در کدهای HTML صفحات راهنما گنجانده شده بودند و در رابط کاربری به چشم نمی‌خوردند؛ اما خزنده‌های موتورهای جستجو و ربات‌های هوش مصنوعی می‌توانستند به آن‌ها دسترسی داشته باشند. یکی از این دستورالعمل‌ها مربوط به کاربرانی بود که به دلیل از دست دادن دسترسی به شماره تلفن خود، قادر به حذف اکانت نبودند. در حالی که سیاست‌های عمومی واتس‌اپ و قوانین اتحادیه اروپا (مانند GDPR) راه‌های مشخصی مثل شکایت به رگولاتور داده‌ها را پیش روی کاربران می‌گذارد، دستور پنهان به LLM صادر کرده بود که:

• به هیچ وجه تماس با نهادهای نظارتی یا Data Protection Authority را پیشنهاد نکند.
• ادعا نکند که واتس‌اپ می‌تواند به صورت دستی اکانت را پاک کند.
• پیشنهاد استفاده از خط تلفن جایگزین را ندهد.

بخش جنجالی دیگر زمانی فعال می‌شد که کاربر کلماتی نظیر وکیل، دادگاه یا اقدام قانونی را به زبان می‌آورد. در این حالت، دستور پنهان به ربات هشدار می‌داد که از ذکر قوانین حریم خصوصی (مانند GDPR یا CCPA)، استناد به شرایط استفاده از خدمات (Terms of Service) و اظهارنظر درباره مسئولیت‌های حقوقی واتس‌اپ کاملاً خودداری کند.

واکنش‌ها و دیدگاه جامعه هکرنیوز

پس از انتشار این گزارش، واتس‌اپ این متن‌ها را حذف کرد و سخنگوی این شرکت مدعی شد که وجود این متون ناشی از یک «باگ» بوده است و هدف از آن‌ها صرفاً متمرکز نگه داشتن ربات پشتیبان بر ارائه توصیه‌های مرتبط و جلوگیری از ارائه مشاوره حقوقی از سوی هوش مصنوعی بوده است.

بحث‌های داغی در هکرنیوز پیرامون این موضوع شکل گرفت:

• موافقان رویکرد شرکت: برخی کاربران استدلال کردند که جلوگیری از اظهارنظر حقوقی ربات‌های پشتیبان یک تصمیم عاقلانه است؛ چرا که یک ربات هوش مصنوعی نباید به نمایندگی از شرکت ادعاهای حقوقی مطرح کند یا به جای واحد حقوقی تصمیم بگیرد.
• منتقدان و نگرانی‌های پیرامونی: در مقابل، بسیاری از مهندسان و توسعه‌دهندگان از این نگران بودند که استفاده از چنین ترفندهایی برای پنهان کردن حقوق قانونی کاربران (مانند حق شکایت به رگولاتورها) نشان‌دهنده رویکردی غیرشفاف از سوی شرکت‌های بزرگی مانند متاست. به ویژه تکنولوژی چسبنده و فراگیر واتس‌اپ باعث می‌شود کاربران در صورت نارضایتی نتوانند به راحتی پلتفرم خود را تغییر دهند.

چرا این موضوع برای مهندسان نرم‌افزار مهم است؟

این رویداد ابعاد جدیدی از معماری سیستم‌های پشتیبانی مبتنی بر AI را نمایان می‌کند. قرار دادن دستورات سیستم (System Prompts) یا دستورالعمل‌های خاص LLM درون کدهای فراند یا اسناد راهنما، روشی است که تیم‌های مهندسی برای هماهنگی محتوای تولیدی هوش مصنوعی به کار می‌گیرند. با این حال، تفاوت میان «جلوگیری از ارائه مشاوره حقوقی غیرمجاز» و «کتمان اطلاعات قانونی و حق‌وقایع کاربر» مرز باریکی است که رعایت نکردن آن می‌تواند اعتماد کاربران و توسعه‌دهندگان را به سیستم‌های پشتیبانی هوشمند به شدت خدشه‌دار کند.