Grouped-Query Attention
توجه پرس‌وجوی گروهی
توجه پرس‌وجوی گروهی؛ ساختاری که سرهای پرس‌وجو را گروه‌بندی و برای هر گروه کلید و مقدار مشترک نگه می‌دارد.
تعریف کامل
این روش میان توجه چندسری و چندپرس‌وجویی قرار می‌گیرد. تعداد گروه‌ها مصالحهٔ حافظه و ظرفیت را تغییر می‌دهد؛ مقایسه باید روی بارکاری واقعی انجام شود.
مثال کاربردی
هشت سر پرس‌وجو از دو جفت سر کلید و مقدار استفاده می‌کنند.