اصطلاح هوش مصنوعی

Continuous Batching

دسته‌بندی پیوسته

دسته‌بندی پیوسته؛ زمان‌بندی تولید دنباله که با پایان بعضی درخواست‌ها، درخواست‌های جدید را وارد دستهٔ فعال می‌کند.

تعریف کامل

برخلاف دستهٔ ثابت، همهٔ درخواست‌ها منتظر طولانی‌ترین پاسخ نمی‌مانند. مدیریت حافظهٔ کلید و مقدار و عدالت زمان‌بندی برای کیفیت سرویس اهمیت دارند.

مثال کاربردی

وقتی یک پاسخ متنی تمام می‌شود، جای آن در گام بعدی به درخواست تازه می‌رسد.
بازگشت به واژه‌نامه