Prefill Phase
مرحلهٔ پردازش اولیهٔ زمینه
مرحلهٔ پردازش اولیهٔ زمینه؛ بخش استنتاج مدل زبانی که توکن‌های ورودی را پردازش و وضعیت لازم برای تولید را آماده می‌کند.
تعریف کامل
هزینهٔ آن با طول ورودی و معماری تغییر می‌کند و معمولاً روی زمان نخستین توکن اثر مهم دارد. استفادهٔ مجدد از پیشوند سازگار می‌تواند بخشی از کار را کاهش دهد.
مثال کاربردی
متن چندصفحه‌ای پرسش پیش از شروع تولید پاسخ از مدل عبور می‌کند.