Post-Training Quantization

در PTQ مقدارهای اعشاری به مجموعهٔ کوچک‌تری از مقدارهای قابل نمایش نگاشت می‌شوند. برخی روش‌ها برای تعیین دامنه و مقیاس از دادهٔ کالیبراسیون نماینده استفاده می‌کنند؛ روش‌های وزن‌محور ممکن است نیاز متفاوتی داشته باشند. نتیجه باید روی دادهٔ ارزیابی سنجیده شود، زیرا دادهٔ پرت و حساسیت لایه‌ها می‌توانند افت کیفیت ایجاد کنند و شتاب واقعی به سخت‌افزار و کرنل اجرا وابسته است.

پس از آموزش یک مدل طبقه‌بندی، نسخهٔ هشت‌بیتی می‌سازیم و علاوه بر اندازه و زمان اجرا، دقت آن را با نسخهٔ اعشاری مقایسه می‌کنیم.