Causal Mask
ماسک علّی
ماسک علّی؛ محدودیتی در توجه که مانع دیدن موقعیت‌های آینده هنگام پیش‌بینی خودبازگشتی می‌شود.
تعریف کامل
امتیاز موقعیت‌های ممنوع پیش از سافت‌مکس حذف یا بسیار منفی می‌شود. واژهٔ علّی اینجا به ترتیب تولید اشاره دارد، نه اثبات رابطهٔ علت و معلول.
مثال کاربردی
توکن سوم هنگام آموزش فقط به توکن‌های اول تا سوم دسترسی دارد.