Feed-Forward Network
شبکهٔ پیش‌خور
شبکهٔ پیش‌خور؛ بخشی از شبکه که اطلاعات را بدون حلقهٔ بازگشتی از لایه‌های ورودی به خروجی منتقل می‌کند.
تعریف کامل
در بلوک ترنسفورمر، شبکهٔ پیش‌خور معمولاً بر هر موقعیت به‌صورت جدا و با وزن‌های مشترک اعمال می‌شود. این بخش با سازوکار تبادل اطلاعات بین توکن‌ها متفاوت است.
مثال کاربردی
پس از توجه، بردار هر توکن از دو تبدیل خطی و یک فعال‌سازی عبور می‌کند.