طوفان کلاه‌برداری‌های مبتنی بر AI؛ وقتی اینترنت پر از دروغ‌های بهینه‌شده می‌شود

مقدمه و زمینه

با فراگیر شدن ابزارهای هوش مصنوعی، ساخت محتوا و داده‌های جعلی به امری بسیار ارزان و مقیاس‌پذیر تبدیل شده است. مقاله «Everything is an AI scam now» نگاهی می‌اندازد به این موضوع که چگونه کلاه‌برداران از مدل‌های زبانی بزرگ (LLM) و سیستم‌های تولید تصویر برای ایجاد تبلیغات عجیب و غریب و ایمیل‌های فیشینگ هدفمند استفاده می‌کنند؛ پدیده‌ای که مرزهای حقیقت را در وب مدرن کمرنگ‌تر کرده است.

جزئیات کلیدی و نحوه کارکرد

کلاه‌برداری‌های مدرن دیگر محدود به ایمیل‌های عمومی «شاهزاده نیجریه‌ای» نیستند. این روزها با استفاده از هوش مصنوعی، طیف جدیدی از حملات و تبلیغات شکل گرفته است:

• تبلیغات ناممکن و محصولات پوچ: پلتفرم‌های بزرگ و شبکه‌های اجتماعی پر شده‌اند از تبلیغات ابزارهایی که قوانین فیزیک را نقض می‌کنند؛ از کولرهای جیبی قدرتمند گرفته تا دستگاه‌های عجیبی که به طور معجزه‌آسا اینترنت رایگان فراهم می‌کنند.
• فیشینگ شخصی‌سازی‌شده برای نویسندگان: کلاه‌برداران با دادن لینک وب‌سایت‌های شخصی یا کتاب‌های نویسندگان به ChatGPT، محتوای صفحات را اسکرپ کرده و ایمیل‌های ستایش‌آمیز اما فریبنده‌ای تولید می‌کنند که به‌دقت برای فرد هدف شخصی‌سازی شده است تا او را ترغیب به پرداخت پول یا افشای اطلاعات کند.
• فرار از فیلترها: از آنجا که هزینه تولید محتوای متنی و بصری با AI نزدیک به صفر است، مهاجمان می‌توانند حجم انبوهی از تغییرات مختلف را ایجاد کنند تا به راحتی از فیلترهای اسپم و بررسی‌های انسانی عبور کنند.

دیدگاه جامعه هکرنیوز

در بحث‌های شکل‌گرفته پیرامون این مقاله در Hacker News، کاربران به جنبه‌های مختلفی از این معضل اشاره کرده‌اند:

• برخی کاربران معتقدند که پلتفرم‌های بزرگ فناوری انگیزه‌ای برای حل این مشکل ندارند، زیرا درآمد سرشاری از محل این تبلیغات کسب می‌کنند و تنها راه حل مؤثر، وضع قوانین سخت‌گیرانه و جریمه‌های سنگین برای شرکت‌هایی است که تبلیغات کلاه‌بردارانه نمایش می‌دهند.
• گروهی دیگر یادآور می‌شوند که این پویایی، یعنی تکیه پلتفرم‌های رایگان بر تبلیغات بی‌کیفیت و زرد، عملاً از زمان پیدایش وب وجود داشته و هوش مصنوعی تنها ابعاد و مقیاس آن را وسعت بخشیده است.

چرا این موضوع برای مهندسان نرم‌افزار مهم است؟

برای توسعه‌دهندگان و طراحان سیستم، این روند چالش‌های جدی به همراه دارد. وقتی کانال‌های ارتباطی مثل ایمیل و شبکه‌های اجتماعی مملو از محتوای تولیدشده توسط AI می‌شوند که تشخیص انسان‌ساخت بودن آن سخت است، اعتماد کاربران به سیستم‌ها فرو می‌ریزد. این مسئله ضرورت طراحی الگوریتم‌های هوشمندتر برای اعتبارسنجی محتوا، سیستم‌های دفاعی مقاوم‌تر در برابر فیشینگ و مسئولیت‌پذیری بیشتر پلتفرم‌ها در قبال زیرساختی که ارائه می‌دهند را دوچندان می‌کند.