آیا برنامه‌نویسی و امنیت سایبری با وابستگی بیش از حد به LLMها جذابیت خود را از دست داده‌اند؟

در ماه‌های اخیر، تب استفاده از مدل‌های هوش مصنوعی یا همان LLMها برای انجام کارهای مختلف به اوج خود رسیده است. بسیاری از افراد هنگام مواجهه با نوشته‌ها یا پژوهش‌های فنی، بلافاصله می‌پرسند که از کدام مدل هوش مصنوعی برای تولید آن‌ها استفاده شده است. این مقاله نگاهی انتقادی دارد به اینکه چرا برخی از پژوهشگران ترجیح می‌دهند مغز خودشان را به کار بیندازند و از ابزارهای هوش مصنوعی دوری کنند.

چرا نویسنده از هوش مصنوعی برای پژوهش استفاده نمی‌کند؟

مسئله اصلی در اینجا سرگرمی و لذت شخصی است. برنامه‌نویسی، بررسی ابزارهایی مثل Binary Ninja، جستجو در کدهای مبهم گیت‌هاب و ردیابی باگ‌ها برای بسیاری از توسعه‌دهندگان یک تفریح جذاب است. اگر تمام این فرآیندها به یک LLM سپرده شود، عملاً لذت اصلی کشف کردن از بین می‌رود.

علاوه بر این، یک چالش اخلاقی هم وجود دارد: واگذاری کار به هوش مصنوعی به معنا از دست رفتن حس مالکیت روی اثر است. وقتی فردی پژوهشی را منتشر می‌کند، باید کار خودش باشد؛ چرا که هوش مصنوعی شخص نیست که بتوان به درستی به آن اعتبار داد یا از آن نام برد.

جنبه آزاردهنده LLMها: خطاهای بااعتمادبه‌نفس!

تجربه کار با LLMها برای کسانی که می‌خواهند عمیقاً یاد بگیرند گاهی بسیار کلافه‌کننده است. دیدن اینکه یک مدل هوش مصنوعی با چه میزان از «اعتمادبه‌نفس» خروجی کاملاً غلط تولید می‌کند یا دستورات عجیبی را اجرا می‌کند، اعصاب‌خردکن است. هرچند ممکن است مدل در نهایت پس از چند مرحله تلاش به جواب درست برسد، اما تحمل این روند برای مهندسی که دوست دارد منطق پشت کار را بفهمد دشوار است.

بازاریابی سایبری و هایپ شرکت‌های بزرگ

شرکت‌های بزرگ هوش مصنوعی این روزها امنیت سایبری را به عنوان ابزار بازاریابی اصلی خود انتخاب کرده‌اند. ماجراهایی مثل انتشار ویدیوهای اثبات مفهوم (PoC) برای آسیب‌پذیری‌های روز صفر (Zero-day) قبل از ارائه پچ، بیشتر جنبه تبلیغاتی و ایجاد ترس (Fearmongering) دارد تا کمک واقعی به جامعه.

نمونه بارز آن داستان جنجال‌های مربوط به Tailscale یا آسیب‌پذیری‌های PHP بود که شرکت‌ها با نام‌گذاری‌های پرجلوه و هشتگ‌های مختلف تلاش کردند نام خود را سر زبان‌ها بیندازند. در مقابل، بسیاری از آسیب‌پذیری‌های بزرگ تاریخی همچنان توسط انسان‌های کنجکاو و با ابزارهای قدیمی و ساده کشف می‌شوند، نه با ارتش توکن‌های هوش مصنوعی.

دیدگاه کاربران هکرنیوز

بحث پیرامون این مقاله در Hacker News بسیار داغ بود و نظرات متفاوتی مطرح شد:

• خطاهای کاهش‌یابنده: برخی کاربران اشاره کردند که مدل‌های هوش مصنوعی باگ‌ها را کمتر از گذشته تکرار می‌کنند و به مرور زمان دقیق‌تر شده‌اند.
• تشابه با شطرنج: یکی از کاربران برنامه‌نویسی را به بازی شطرنج تشبیه کرد؛ دهه‌هاست که کامپیوترها انسان‌ها را می‌برند، اما مردم همچنان از بازی کردن لذت می‌برند چون چالش فکری آن برایشان مهم است.
• انگیزه مالی: عده‌ای دیگر معتقد بودند که سرمایه‌گذاری تریلیون دلاری در بخش زیرساخت (CapEx) شرکت‌های هوش مصنوعی، آن‌ها را ناچار کرده است تا به هر قیمتی جامعه را مجبور به پذیرش این ابزارها کنند تا سرمایه اولیه بازگردد.

نتیجه‌گیری

در نهایت، استفاده از LLM در محیط‌های کاری به دلیل فشارهای بازار و سرعت توسعه قابل درک است. اما در پروژه‌های شخصی و حوزه‌های پژوهشی، واگذاری همه‌چیز به هوش مصنوعی باعث از دست رفتن فرصت‌های یادگیری عمیق می‌شود. مسیر رسیدن به پاسخ و کله‌پا شدن در دیوارهای بن‌بست، همان چیزی است که یک مهندس را قوی‌تر می‌کند.