Quantization-Aware Training
آموزش آگاه از کوانتیزهسازی
روشی که اثر خطای کوانتیزهسازی را هنگام آموزش یا تنظیم مجدد مدل شبیهسازی میکند تا مدل برای اجرای کمدقت آماده شود.
تعریف کامل
در QAT معمولاً عملگرهای کوانتیزهسازی شبیهسازیشده به مسیر محاسبه افزوده میشوند و وزنها در فرایند یادگیری با خطای گردکردن سازگار میشوند. سپس مدل به قالب کمدقت قابل اجرا تبدیل میشود. این روش نسبت به PTQ به داده و محاسبهٔ آموزشی بیشتری نیاز دارد و تضمین نمیکند روی هر سختافزار سریعتر اجرا شود؛ کیفیت و سازگاری اپراتورها باید جداگانه آزموده شوند.
مثال کاربردی
وقتی تبدیل مستقیم یک شبکه به هشتبیت افت دقت زیادی دارد، چند دوره آموزش با شبیهسازی کوانتیزهسازی انجام میدهیم و خروجی کمدقت را دوباره ارزیابی میکنیم.
