Open zhjw0927 opened 11 months ago
hi，我在量化模型时，继承了IInt8EntropyCalibrator2类。在继承类的构造函数中，初始化了sizaMap<std::string, size_t> 成员变量，方便在getBatch函数中去调取不同input node的size。但是，我发现在量化过程运行时（即调用getBatch时），使用input node name去选取sizeMap时，发生了错误。debug发现，构造函数中初始化的sizeMap在成员函数getBatch中，key发生了乱码。这样的问题，也发生在readCalibrationCache中。
参考的示例代码是https://github.com/NVIDIA/trt-samples-for-hackathon-cn/blob/master/cookbook/02-API/INT8-PTQ/C%2B%2B/calibrator.cpp。
hi，我在量化模型时，继承了IInt8EntropyCalibrator2类。在继承类的构造函数中，初始化了sizaMap<std::string, size_t> 成员变量，方便在getBatch函数中去调取不同input node的size。但是，我发现在量化过程运行时（即调用getBatch时），使用input node name去选取sizeMap时，发生了错误。debug发现，构造函数中初始化的sizeMap在成员函数getBatch中，key发生了乱码。这样的问题，也发生在readCalibrationCache中。
参考的示例代码是https://github.com/NVIDIA/trt-samples-for-hackathon-cn/blob/master/cookbook/02-API/INT8-PTQ/C%2B%2B/calibrator.cpp。