معماری مدل

کشف دوباره ترنسفورمرها از دریچه حافظه تداعی‌گر: سیر تحول از لایه‌های خطی تا سلف‌اتنشن

این مقاله نشان می‌دهد چگونه با بازتعریف اجزای یادگیری ماشین به‌عنوان «حافظه تداعی‌گر» (Associative Memory) و تلاش برای کاهش تداخل سیگنال‌ها، می‌توان از لایه‌های خطی ساده و رگرسیون، به معماری MLP و نهایتاً مکانیسم سلف‌اتنشن در ترنسفورمرها رسید.