۱ مطلب با این برچسب
مقاله جدیدی با عنوان «توجه آن چیزی نیست که نیاز دارید» معماری متفاوتی بدون استفاده از مکانیزم Self-Attention ارائه می دهد. این پژوهش با استفاده از هندسه و منیفلد Grassmannنشان می دهد که مدل های زبانی می توانند بدون ماتریس های سنگین توجه، نتایج رقابتی تولید کنند.
