Relative Position Bias
بایاس موقعیت نسبی
بایاس موقعیت نسبی؛ افزودن نمرهای وابسته به فاصلهٔ دو توکن به امتیاز توجه.
تعریف کامل
مدل میتواند نزدیکی یا جهت نسبی موقعیتها را یاد بگیرد. روش دستهبندی فاصله و تعمیم به فاصلههای دیدهنشده بین معماریها متفاوت است.
مثال کاربردی
توجه به واژهٔ قبلی بایاسی متفاوت از واژهٔ دورتر دریافت میکند.
