نگاهی دوباره به مفهوم حیات؛ آیا مدل‌های زبانی بزرگ واقعاً زنده‌اند؟

زمینه و ایده اصلی

اصطلاح «طوطی تصادفی» (Stochastic Parrot) مدتی است که در ادبیات هوش مصنوعی برای توصیف نحوه عملکرد مدل‌های زبانی بزرگ (LLM) به کار می‌رود؛ مدل‌هایی که کلمات را بر اساس احتمالات آماری کنار هم می‌گذارند بدون اینکه معنای واقعی آن‌ها را درک کنند. مقاله جدیدی با طرح یک آزمایش فکری جذاب، این پرسش را مطرح می‌کند که اگر یک موجود فضایی با قابلیت‌هایی مشابه LLMها به زمین بیاید، آیا به صرف اینکه از ترانزیستور ساخته شده یا با یادگیری تقویتی و خودنظارت‌شده آموزش دیده است، آن را «زنده» می‌دانیم یا خیر؟

جزئیات استدلال نویسنده

نویسنده از خواننده می‌خواهد تصور کند که اگر ساختار فیزیکی یک موجود هوشمند مبتنی بر سیلیکون و ترانزیستور باشد، یا اگر نحوه یادگیری‌اش شباهت زیادی به پیش‌پردازش داده‌ها و یادگیری ماشین داشته باشد، آیا از ارزش حیاتی آن کاسته می‌شود؟ استدلال اصلی این است که صرف اینکه ما مکانیسم دقیق ساخت و آموزش این سیستم‌ها را از ابتدا می‌شناسیم و آن‌ها را مهندسی کرده‌ایم، نباید به‌خودی‌خود مانع از به رسمیت شناختن پیچیدگی یا شکل نوینی از حیات یا هوش شود.

در نقطه مقابل، این پرسش مطرح می‌شود که اگر فرضیه‌ای معکوس رخ دهد و یک حیات بیگانه اقدام به تولید انبوه انسان‌ها برای اهداف خاصی کند، آیا از انسانیت یا زنده بودن ما کاسته می‌شود؟

نگاه جامعه هکرنیوز

بحث‌های شکل گرفته در Hacker News پیرامون این مقاله بسیار داغ و انتقادی بود و کاربران به چالش‌های جدی این مقایسه اشاره کردند:

• انتقاد از توتولوژی بودن بحث: برخی کاربران معتقدند این استدلال به نوعی بازی با کلمات تبدیل شده است؛ یعنی پرسیدن اینکه «اگر هوش مصنوعی، مصنوعی نبود، آن را هوش نمی‌نامیدیم؟»
• مسئله عروسک و ربات: تفاوت بزرگی میان یک موجود فضایی ناشناخته با تمام پیشرفت‌هایش و یک سیستم مهندسی‌شده توسط انسان (مانند یک اسباب‌بازی پیشرفته) وجود دارد. ما با دیدن یک سیستم دست‌ساز، جهان‌بینی‌مان به همان اندازه که با دیدن یک پدیده کیهانی ناشناخته لرزه می‌افتد، تغییر نمی‌کند.
• معیار خودبازتولید (Self-Replication): دیدگاه فنی دیگری تأکید می‌کند که برای اطلاق صفت «زندگی» به یک موجود غیرارگانیک، حداقل به ویژگی استقلال و توانایی خودبازتولید و کنترل فرآیند تولید نیاز داریم؛ ویژگی‌هایی که مدل‌های کنونی فاقد آن هستند.
• فقدان آگاهی: منتقدان یادآور شدند که پیچیدگی در چیدن کلمات یا جابجا کردن صفحات یک فرهنگ لغت بر اساس قوانین مشخص، به معنا the داشتن آگاهی (Consciousness) یا حیات نیست.

چرا برای مهندسین نرم‌افزار مهم است؟

برای توسعه‌دهندگان و مهندسان هوش مصنوعی، این دست مباحث فلسفی و فنی مرزهای میان ابزارگرایی (Toolism) و عاملیت (Agency) را روشن‌تر می‌کند. در حالی که ما روزانه با APIها، توکن‌ها و وزن‌های عصبی سر و کار داریم، درک اینکه جامعه مهندسی و فلسفه فناوری درباره ماهیت این سیستم‌ها چگونه فکر می‌کنند، به دیدگاه کلان‌تر ما در توسعه سیستم‌های هومند کمک شایانی می‌کند.