onlinelibrary.wiley.com
۲۵ مهر
چگونه مدل‌های زبانی System 1 به توانمندی‌های تفکر System 2 می‌رسند؟
این مقاله بررسی می‌کند که چگونه می‌توان مدل‌های زبانی بزرگ را که ذاتاً بر پایه تفکر سریع و غریزی عمل می‌کنند، به قابلیت‌های استدلالی و کند System 2 مجهز کرد. این موضوع برای مهندسان هوش مصنوعی که به دنبال بهبود دقت و منطق در LLMها هستند، اهمیت زیادی دارد.
۵۱ امتیاز
۲۶ نظر
۲ دقیقه
machinelearning.apple.com
۲۵ مهر
اجرای توزیع‌شده مدل‌های تریلیون پارامتری روی مک استودیو با MLX و تاندربولت RDMA
تیم تحقیقات یادگیری ماشین اپل روش اجرای توزیع‌شده مدل‌های فوق‌بزرگ مانند Muse Spark Open (با ۸۱۶ میلیارد پارامتر) را روی خوشه‌ای از مک استودیوها با فریم‌ورک MLX و اتصال RDMA روی Thunderbolt 5 به نمایش گذاشت؛ رویکردی که سرعت تولید متنی بیش از ۳۶ توکن در ثانیه فراهم می‌کند.
۳۳۷ امتیاز
۱۷۱ نظر
۴ دقیقه