آیا هوش مصنوعی مهندسان SRE را جایگزین می‌کند یا بی‌مهارت؟

در ماه‌های اخیر دو پیش‌بینی افراطی درباره آینده فناوری مطرح شده است؛ گروهی می‌گویند SRE (مهندسی قابلیت اطمینان سایت) آینده تمام مهندسی نرم‌افزار است و گروهی دیگر ادعا می‌کنند هوش مصنوعی تمام مشاغل حوزه فناوری را می‌بلعد. اما پرسش واقعی و ملموس این است: وقتی هوش مصنوعی ۹۵ درصد از پاسخگویی به اینسیدنت‌ها را بر عهده می‌گیرد، آیا توانایی انسان‌ها برای مدیریت ۵ درصد باقی‌مانده و حیاتی تضعیف می‌شود؟

تناقض‌های اتوماسیون و تجربه هوانوردی

ریشه‌های این بحث به مقاله‌ای کلاسیک در سال ۱۹۸۳ با عنوان «تناقض‌های اتوماسیون» اثر Lisanne Bainbridge بازمی‌گردد. یافته‌های این پژوهش روان‌شناسی شناختی نشان داد هر چه یک فرآیند بیشتر اتوماتیک شود، اپراتور انسانی در لحظات نادر بروز خرابی حیاتی‌تر می‌شود؛ اما چون تمرین کمتری دارد، آمادگی کمتری هم برای مداخله خواهد داشت.

این الگو امروزه در دنیای فناوری و در میان مهندسان SRE در حال تکرار است. هوش مصنوعی وظایف روتین شناختی مانند تشخیص الگو در لاگ‌ها، دسته‌بندی هشدارها، پیشنهاد ریشه‌یابی و اصلاح خودکار (Auto-remediation) را انجام می‌دهد. در نتیجه، مهندسان انسانی عمدتاً درگیر سناریوهای پیچیده، ناشناخته و چندلایه می‌شوند. اما مشکل اینجاست که شهود و مهارت عمیق سیستم از طریق تکرار و تجربه روزمره به دست می‌آید و وقتی انسان‌ها از این حلقه‌ حذف شوند، این مهارت‌ها دچار آتروفی می‌شوند.

پدیده Deskilling و Never-skilling

شواهد مشابهی در حوزه‌های دیگر نیز دیده شده است:

• پزشکی: مطالعه‌ای نشان داده است پزشکانی که از هوش مصنوعی برای تشخیص پولیپ استفاده کرده‌اند، پس از مدتی نرخ تشخیص بدون کمک خودشان افت کرده است.
• هوانوردی: خلبانان پروازهای طولانی که بیش از حد به اتوپایلوت متکی هستند، دچار افت توانایی پرواز دستی و آگاهی موقعیتی می‌شوند تا جایی که سازمان‌های هوانوردی مانند FAA ساعت‌های پرواز دستی اجباری تعیین کرده‌اند.

در حوزه SRE این خطر به دو شکل ظاهر می‌شود: اول Deskilling (افت مهارت در افرادی که قبلاً مهارت داشته‌اند) و دوم Never-skilling (مهندس جوانی که اصلاً فرصت نکرده است در مواجهه دست‌به‌سر با بحران‌ها، تجربه و شهود لازم را کسب کند).

راهکارها و دیدگاه جامعه هکرنیوز

برای مقابله با این چرخه باطل، راهکارهایی پیشنهاد شده است:

• ناکارآمدی عمدی (Deliberate Inefficiency): درست مانند قانون خلبانان خودکار، تیم‌های SRE می‌توانند عمداً برخی از بحران‌ها را بدون دخالت هوش مصنوعی و به صورت دستی مدیریت کنند تا مهارت‌های تیم تازه بماند.
• معماری Human-in-the-loop واقعی: طراحی ابزارها به گونه‌ای که انسان به جای نقش نظارتی صرف (Human-on-the-side)، در کنار هوش مصنوعی به طور شناختی با مسئله درگیر بماند.

کاربران هکرنیوز نیز نظرات جالبی در این باره مطرح کرده‌اند. برخی اشاره می‌کنند که در سازمان‌های سنتی و محافظه‌کار مانند بانک‌ها، ترجیح داده می‌شود داده‌های تله‌متری به بیرون فرستاده نشود و تیم‌ها به روش‌های سنتی پایبند بمانند. برخی دیگر نیز هشدار می‌دهند که افراد ناکارآمد با ابزار پیشرفته نیز همچنان ناکارآمد باقی خواهند ماند و ابزار تنها ضعف‌ها را پنهان می‌کند.