模型量化时遇到激活值异常溢出如何调试

Question

模型量化时遇到激活值异常溢出如何调试

Accepted Answer

考察点：考察量化调试中对溢出定位、数据处理和排查流程的掌握。回答思路：说明量化溢出的常见原因如离群值或scale设置不当 描述定位溢出发生层和激活值范围的调试方法 提出针对性解决方案如动态量化或饱和截断

考察说明