Continuous Batching
دستهبندی پیوسته
دستهبندی پیوسته؛ زمانبندی تولید دنباله که با پایان بعضی درخواستها، درخواستهای جدید را وارد دستهٔ فعال میکند.
تعریف کامل
برخلاف دستهٔ ثابت، همهٔ درخواستها منتظر طولانیترین پاسخ نمیمانند. مدیریت حافظهٔ کلید و مقدار و عدالت زمانبندی برای کیفیت سرویس اهمیت دارند.
مثال کاربردی
وقتی یک پاسخ متنی تمام میشود، جای آن در گام بعدی به درخواست تازه میرسد.
