请教：复现不成功的原因

SeaNoMoon commented 6 years ago

您好，我在复现时出现问题，特来请教。环境：win10、安装python3.5.4及cpu版tensorflow 运行RUN_AI，结果如下：（1）调用video_to_cu_depth.py成功，完成所有帧CU预测；（2）随即跳出：TAppEncoder.exe已停止工作。请问出现这种情况可能是什么原因？请指教。

tianyili2017 commented 6 years ago

您好，看到您的描述我再次尝试在Windows10 x64、Python3.5和cpu版tensorflow上运行。

现在没有发现错误，以自带的配置文件encoder_yuv_source.cfg为例，程序可以正常编码BasketballPass_416x240_50.yuv的前50帧。运行前需要在此配置文件中，指明yuv文件路径（相对或绝对均可，比如本人的是G:/YUVs/BasketballPass_416x240_50.yuv），并请确认HM-16.5_AI\bin\vc10\x64\Release里自带的文件没有被手动删除。另外，为了顺利对高清视频编码，自带exe文件是在x64下编译的，可能不适用于32位系统。其他方面，根据您描述的情况，暂时难以判断原因，可否更具体地描述？

感谢您关注我们的工作。

zhoushuairan commented 5 years ago

您好，我在复现时出现问题，特来请教。环境：win10、安装python3.5.4及cpu版tensorflow 运行RUN_AI，结果如下：（1）调用video_to_cu_depth.py成功，完成所有帧CU预测；（2）随即跳出：TAppEncoder.exe已停止工作。请问出现这种情况可能是什么原因？请指教。

您好，请问你在运行HM-16.5_Test_AI时候出现过下面的情况吗？ `Tensor("Conv2D:0", shape=(?, 1, 1, 1), dtype=float32) Tensor("ResizeNearestNeighbor:0", shape=(?, 16, 16, 1), dtype=float32) Tensor("LeakyRelu:0", shape=(?, 4, 4, 16), dtype=float32) Tensor("LeakyRelu_1:0", shape=(?, 2, 2, 24), dtype=float32) Tensor("LeakyRelu_2:0", shape=(?, 1, 1, 32), dtype=float32) Tensor("Conv2D_4:0", shape=(?, 2, 2, 1), dtype=float32) Tensor("ResizeNearestNeighbor_1:0", shape=(?, 32, 32, 1), dtype=float32) Tensor("LeakyRelu_3:0", shape=(?, 8, 8, 16), dtype=float32) Tensor("LeakyRelu_4:0", shape=(?, 4, 4, 24), dtype=float32) Tensor("LeakyRelu_5:0", shape=(?, 2, 2, 32), dtype=float32) Tensor("Conv2D_8:0", shape=(?, 4, 4, 1), dtype=float32) Tensor("ResizeNearestNeighbor_2:0", shape=(?, 64, 64, 1), dtype=float32) Tensor("LeakyRelu_6:0", shape=(?, 16, 16, 16), dtype=float32) Tensor("LeakyRelu_7:0", shape=(?, 8, 8, 24), dtype=float32) Tensor("LeakyRelu_8:0", shape=(?, 4, 4, 32), dtype=float32) Tensor("concat:0", shape=(?, 2688), dtype=float32) Tensor("cond/Merge:0", shape=(?, 64), dtype=float32) Tensor("cond_1/Merge:0", shape=(?, 48), dtype=float32) Tensor("cond_2/Merge:0", shape=(?, 1), dtype=float32) Tensor("cond_3/Merge:0", shape=(?, 128), dtype=float32) Tensor("cond_4/Merge:0", shape=(?, 96), dtype=float32) Tensor("cond_5/Merge:0", shape=(?, 4), dtype=float32) Tensor("cond_7/Merge:0", shape=(?, 256), dtype=float32) Tensor("cond_8/Merge:0", shape=(?, 192), dtype=float32) Tensor("cond_9/Merge:0", shape=(?, 16), dtype=float32)

D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv frame 501/501 416x240

Predicting Time : 7.986 sec.

HM software: Encoder Version [16.5] (including RExt)[Windows][VS 1900][64 bit]

python video_to_cu_depth.py D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 416 240 32

Input File : D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv Bitstream File : str.bin Reconstruction File : rec.yuv Real Format : 416x240 50Hz Internal Format : 416x240 50Hz Sequence PSNR output : Linear average only Sequence MSE output : Disabled Frame MSE output : Disabled Cabac-zero-word-padding : Enabled Frame/Field : Frame based coding Frame index : 0 - 99 (100 frames) Profile : main CU size / depth / total-depth : 64 / 4 / 4 RQT trans. size (min / max) : 4 / 32 Max RQT depth inter : 3 Max RQT depth intra : 3 Min PCM size : 8 Motion search range : 64 Intra period : 1 Decoding refresh type : 0 QP : 32.00 Max dQP signaling depth : 0 Cb QP Offset : 0 Cr QP Offset : 0 QP adaptation : 0 (range=0) GOP size : 1 Input bit depth : (Y:8, C:8) MSB-extended bit depth : (Y:8, C:8) Internal bit depth : (Y:8, C:8) PCM sample bit depth : (Y:8, C:8) Intra reference smoothing : Enabled diff_cu_chroma_qp_offset_depth : -1 extended_precision_processing_flag : Disabled implicit_rdpcm_enabled_flag : Disabled explicit_rdpcm_enabled_flag : Disabled transform_skip_rotation_enabled_flag : Disabled transform_skip_context_enabled_flag : Disabled cross_component_prediction_enabled_flag: Disabled high_precision_offsets_enabled_flag : Disabled persistent_rice_adaptation_enabled_flag: Disabled cabac_bypass_alignment_enabled_flag : Disabled log2_sao_offset_scale_luma : 0 log2_sao_offset_scale_chroma : 0 Cost function: : Lossy coding (default) RateControl : 0 Max Num Merge Candidates : 5

TOOL CFG: IBD:0 HAD:1 RDQ:1 RDQTS:1 RDpenalty:0 SQP:0 ASR:0 FEN:1 ECU:0 FDM:1 CFM:0 ESD:0 RQT:1 TransformSkip:1 TransformSkipFast:1 TransformSkipLog2MaxSize:2 Slice: M=0 SliceSegment: M=0 CIP:0 SAO:1 PCM:0 TransQuantBypassEnabled:0 WPP:0 WPB:0 PME:2 WaveFrontSynchro:0 WaveFrontSubstreams:1 ScalingList:0 TMVPMode:1 AQpS:0 SignBitHidingFlag:1 RecalQP:0

Non-environment-variable-controlled macros set as follows:

                            RExt__DECODER_DEBUG_BIT_STATISTICS =   0
                                  RExt__HIGH_BIT_DEPTH_SUPPORT =   0
                        RExt__HIGH_PRECISION_FORWARD_TRANSFORM =   0
                                    O0043_BEST_EFFORT_DECODING =   0

               Input ChromaFormatIDC =   4:2:0
   Output (internal) ChromaFormatIDC =   4:2:0

` 我单独运行D:\HM\HM-16.5_Test_AI\bin下文件video_to_cu_depth.py文件出现 File"video_to_cu_depth.py",line 120,in assert len(sys.argv)==5 AssertionError 请问是为什么呢？？？如果你能回答很感谢！

huaxiazi commented 2 years ago

你好，我在复现时出现问题，特来请教。环境：win10、安装python3.5.4及cpu版tensorflow 运行RUN_AI，结果如下：（1）调用video_to_cu_depth.py成功，完成所有帧CU预测；（2）可以跳出：TAppEncoder.exe 已停止工作。请问出现这种情况可能是什么原因？请指教。

你好，请问你在运行HM-16.5_Test_AI时出现过下面的情况吗？ `Tensor("Conv2D:0", shape=(?, 1, 1, 1), dtype=float32) Tensor("ResizeNearestNeighbor:0 ", shape=(?, 16, 16, 1), dtype=float32) Tensor("LeakyRelu:0", shape=(?, 4, 4, 16), dtype=float32) Tensor("LeakyRelu_1:0", shape=(?, 2, 2, 24), dtype=float32) Tensor("LeakyRelu_2:0", shape=(?, 1, 1, 32), dtype=float32) Tensor("Conv2D_4:0", shape= (?, 2, 2, 1), dtype=float32) Tensor("ResizeNearestNeighbor_1:0", shape=(?, 32, 32, 1), dtype=float32) Tensor("LeakyRelu_3:0", shape=(? , 8, 8, 16), dtype=float32) Tensor("LeakyRelu_4:0", shape=(?, 4, 4, 24), dtype=float32) Tensor("LeakyRelu_5:0", shape=(?, 2 , 2, 32),dtype=float32) Tensor("Conv2D_8:0", shape=(?, 4, 4, 1), dtype=float32) Tensor("ResizeNearestNeighbor_2:0", shape=(?, 64, 64, 1), dtype=float32) Tensor( "LeakyRelu_6:0", shape=(?, 16, 16, 16), dtype=float32) Tensor("LeakyRelu_7:0", shape=(?, 8, 8, 24), dtype=float32) Tensor("LeakyRelu_8 :0", shape=(?, 4, 4, 32), dtype=float32) Tensor("concat:0", shape=(?, 2688), dtype=float32) Tensor("cond/Merge:0", shape=(?, 64), dtype=float32) Tensor("cond_1/Merge:0", shape=(?, 48), dtype=float32) Tensor("cond_2/Merge:0", shape=(?, 1 ), dtype=float32) Tensor("cond_3/Merge:0", shape=(?, 128), dtype=float32) Tensor("cond_4/Merge:0", shape=(?, 96),dtype=float32) 张量("cond_5/Merge:0", shape=(?, 4), dtype=float32) Tensor("cond_7/Merge:0", shape=(?, 256), dtype=float32) Tensor("cond_8/Merge:0", shape=(?, 192), dtype=float32) Tensor("cond_9/Merge :0", shape=(?, 16), dtype=float32)

D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 帧 501/501 416x240

预测时间：7.986 秒。

HM 软件：编码器版本 [16.5]（包括 RExt）[Windows][VS 1900][64 位]

python video_to_cu_depth.py D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 416 240 32

输入文件：D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 比特流文件：str.bin 重构文件：rec.yuv 真实格式：416x240 50Hz 内部格式：6x2404 PS160Hz 输出序列：仅线性平均序列 MSE 输出：禁用帧 MSE 输出：禁用 Cabac-zero-word-padding：启用帧/字段：基于帧的编码帧索引：0 - 99（100 帧）配置文件：主要 CU 尺寸/深度/总深度：64 / 4 / 4 RQT trans。大小（最小/最大）：4 / 32 最大 RQT 深度间：3 最大 RQT 深度内：3 最小 PCM 大小：8 运动搜索范围：64 帧内周期：1 解码刷新类型：0 QP：32.00 最大 dQP 信令深度：0 Cb QP 偏移：0 Cr QP 偏移：0 QP 适配：0（范围=0） GOP 大小：1 输入位深 : (Y:8, C:8) MSB 扩展位深 : (Y:8, C:8) 内部位深 : (Y:8, C:8) PCM 采样位深 : (Y:8) , C:8) 帧内参考平滑：启用 diff_cu_chroma_qp_offset_depth ：-1extended_precision_processing_flag ：禁用 implicit_rdpcm_enabled_flag ：禁用显式 _rdpcm_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：Disabled transform_skip_flags_enabled_flags_enabled_component_component_enabled_disabled ： disabled transform_skip_flagd_contained_flagsable_flagd_consent_flagd_context persistent_rice_adaptation_enabled_flag：禁用 cabac_bypass_alignment_enabled_flag：禁用 log2_sao_offset_scale_luma：0 log2_sao_offset_scale_chroma：0 成本函数：：有损编码（默认） RateControl：0 最大合并候选数：5

工具 CFG: IBD:0 HAD:1 RDQ:1 RDQTS:1 RDpenalty:0 SQP:0 ASR:0 FEN:1 ECU:0 FDM:1 CFM:0 ESD:0 RQT:1 TransformSkip:1 TransformSkipFast:1 TransformSkipLog2MaxSize: 2 Slice: M=0 SliceSegment: M=0 CIP:0 SAO:1 PCM:0 TransQuantBypassEnabled:0 WPP:0 WPB:0 PME:2 WaveFrontSynchro:0 WaveFrontSubstreams:1 ScalingList:0 TMVPMode:1 AQpS:0 SignBitHidingFlag:1 RecalQP:0

非环境变量控制的宏设置如下：
                            RExt__DECODER_DEBUG_BIT_STATISTICS =   0
                                  RExt__HIGH_BIT_DEPTH_SUPPORT =   0
                        RExt__HIGH_PRECISION_FORWARD_TRANSFORM =   0
                                    O0043_BEST_EFFORT_DECODING =   0

               Input ChromaFormatIDC =   4:2:0
   Output (internal) ChromaFormatIDC =   4:2:0
` 我单独运行D:\HM\HM-16.5_Test_AI\bin下video_to_cu_depth.py文件 File"video_to_cu_depth.py",line 120,in assert len(sys.argv)==5 AssertionError请问是为了...... ？？如果你能回答很感谢！请问您这个问题解决了么

zhoushuairan commented 2 years ago

具体记不清楚了，时间有点久了，我当时的原因是因为版本号不对应 tensorflow1.10，所以才会出现问题，我把所有版本号改好之后就可以运行了

---原始邮件--- 发件人: @.> 发送时间: 2021年10月29日(周五) 晚上9:19 收件人: @.>; 抄送: @.**@.>; 主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

你好，我在复现时出现问题，特来请教。环境：win10、安装python3.5.4及cpu版tensorflow 运行RUN_AI，结果如下：（1）调用video_to_cu_depth.py成功，完成所有帧CU预测；（2）可以跳出：TAppEncoder.exe 已停止工作。请问出现这种情况可能是什么原因？请指教。

你好，请问你在运行HM-16.5_Test_AI时出现过下面的情况吗？ `Tensor("Conv2D:0", shape=(?, 1, 1, 1), dtype=float32) Tensor("ResizeNearestNeighbor:0 ", shape=(?, 16, 16, 1), dtype=float32) Tensor("LeakyRelu:0", shape=(?, 4, 4, 16), dtype=float32) Tensor("LeakyRelu_1:0", shape=(?, 2, 2, 24), dtype=float32) Tensor("LeakyRelu_2:0", shape=(?, 1, 1, 32), dtype=float32) Tensor("Conv2D_4:0", shape= (?, 2, 2, 1), dtype=float32) Tensor("ResizeNearestNeighbor_1:0", shape=(?, 32, 32, 1), dtype=float32) Tensor("LeakyRelu_3:0", shape=(? , 8, 8, 16), dtype=float32) Tensor("LeakyRelu_4:0", shape=(?, 4, 4, 24), dtype=float32) Tensor("LeakyRelu_5:0", shape=(?, 2 , 2, 32),dtype=float32) Tensor("Conv2D_8:0", shape=(?, 4, 4, 1), dtype=float32) Tensor("ResizeNearestNeighbor_2:0", shape=(?, 64, 64, 1), dtype=float32) Tensor( "LeakyRelu_6:0", shape=(?, 16, 16, 16), dtype=float32) Tensor("LeakyRelu_7:0", shape=(?, 8, 8, 24), dtype=float32) Tensor("LeakyRelu_8 :0", shape=(?, 4, 4, 32), dtype=float32) Tensor("concat:0", shape=(?, 2688), dtype=float32) Tensor("cond/Merge:0", shape=(?, 64), dtype=float32) Tensor("cond_1/Merge:0", shape=(?, 48), dtype=float32) Tensor("cond_2/Merge:0", shape=(?, 1 ), dtype=float32) Tensor("cond_3/Merge:0", shape=(?, 128), dtype=float32) Tensor("cond_4/Merge:0", shape=(?, 96),dtype=float32) 张量("cond_5/Merge:0", shape=(?, 4), dtype=float32) Tensor("cond_7/Merge:0", shape=(?, 256), dtype=float32) Tensor("cond_8/Merge:0", shape=(?, 192), dtype=float32) Tensor("cond_9/Merge :0", shape=(?, 16), dtype=float32)

D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 帧 501/501 416x240

预测时间：7.986 秒。

HM 软件：编码器版本 [16.5]（包括 RExt）[Windows][VS 1900][64 位]

python video_to_cu_depth.py D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 416 240 32

输入文件：D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 比特流文件：str.bin 重构文件：rec.yuv 真实格式：416x240 50Hz 内部格式：6x2404 PS160Hz 输出序列：仅线性平均序列 MSE 输出：禁用帧 MSE 输出：禁用 Cabac-zero-word-padding：启用帧/字段：基于帧的编码帧索引：0 - 99（100 帧）配置文件：主要 CU 尺寸/深度/总深度：64 / 4 / 4 RQT trans。大小（最小/最大）：4 / 32 最大 RQT 深度间：3 最大 RQT 深度内：3 最小 PCM 大小：8 运动搜索范围：64 帧内周期：1 解码刷新类型：0 QP：32.00 最大 dQP 信令深度：0 Cb QP 偏移：0 Cr QP 偏移：0 QP 适配：0（范围=0） GOP 大小：1 输入位深 : (Y:8, C:8) MSB 扩展位深 : (Y:8, C:8) 内部位深 : (Y:8, C:8) PCM 采样位深 : (Y:8) , C:8) 帧内参考平滑：启用 diff_cu_chroma_qp_offset_depth ：-1extended_precision_processing_flag ：禁用 implicit_rdpcm_enabled_flag ：禁用显式 _rdpcm_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：Disabled transform_skip_flags_enabled_flags_enabled_component_component_enabled_disabled ： disabled transform_skip_flagd_contained_flagsable_flagd_consent_flagd_context persistent_rice_adaptation_enabled_flag：禁用 cabac_bypass_alignment_enabled_flag：禁用 log2_sao_offset_scale_luma：0 log2_sao_offset_scale_chroma：0 成本函数：：有损编码（默认） RateControl：0 最大合并候选数：5

工具 CFG: IBD:0 HAD:1 RDQ:1 RDQTS:1 RDpenalty:0 SQP:0 ASR:0 FEN:1 ECU:0 FDM:1 CFM:0 ESD:0 RQT:1 TransformSkip:1 TransformSkipFast:1 TransformSkipLog2MaxSize: 2 Slice: M=0 SliceSegment: M=0 CIP:0 SAO:1 PCM:0 TransQuantBypassEnabled:0 WPP:0 WPB:0 PME:2 WaveFrontSynchro:0 WaveFrontSubstreams:1 ScalingList:0 TMVPMode:1 AQpS:0 SignBitHidingFlag:1 RecalQP:0

非环境变量控制的宏设置如下： RExtDECODER_DEBUG_BIT_STATISTICS = 0 RExt__HIGH_BIT_DEPTH_SUPPORT = 0 RExtHIGH_PRECISION_FORWARD_TRANSFORM = 0 O0043_BEST_EFFORT_DECODING = 0 Input ChromaFormatIDC = 4:2:0 Output (internal) ChromaFormatIDC = 4:2:0
` 我单独运行D:\HM\HM-16.5_Test_AI\bin下video_to_cu_depth.py文件 File"video_to_cu_depth.py",line 120,in assert len(sys.argv)==5 AssertionError请问是为了...... ？？如果你能回答很感谢！请问您这个问题解决了么

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android.

huaxiazi commented 2 years ago

您好，请问您当时在跑extra_data_AI时会出现这个错误吗

------------------ 原始邮件 ------------------ 发件人: "tianyili2017/HEVC-Complexity-Reduction" @.>; 发送时间: 2021年10月30日(星期六) 凌晨0:26 @.>; @.**@.>; 主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

具体记不清楚了，时间有点久了，我当时的原因是因为版本号不对应 tensorflow1.10，所以才会出现问题，我把所有版本号改好之后就可以运行了

---原始邮件--- 发件人: @.> 发送时间: 2021年10月29日(周五) 晚上9:19 收件人: @.>; 抄送: @.**@.>; 主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

你好，我在复现时出现问题，特来请教。环境：win10、安装python3.5.4及cpu版tensorflow 运行RUN_AI，结果如下：（1）调用video_to_cu_depth.py成功，完成所有帧CU预测；（2）可以跳出：TAppEncoder.exe 已停止工作。请问出现这种情况可能是什么原因？请指教。

你好，请问你在运行HM-16.5_Test_AI时出现过下面的情况吗？ `Tensor("Conv2D:0", shape=(?, 1, 1, 1), dtype=float32) Tensor("ResizeNearestNeighbor:0 ", shape=(?, 16, 16, 1), dtype=float32) Tensor("LeakyRelu:0", shape=(?, 4, 4, 16), dtype=float32) Tensor("LeakyRelu_1:0", shape=(?, 2, 2, 24), dtype=float32) Tensor("LeakyRelu_2:0", shape=(?, 1, 1, 32), dtype=float32) Tensor("Conv2D_4:0", shape= (?, 2, 2, 1), dtype=float32) Tensor("ResizeNearestNeighbor_1:0", shape=(?, 32, 32, 1), dtype=float32) Tensor("LeakyRelu_3:0", shape=(? , 8, 8, 16), dtype=float32) Tensor("LeakyRelu_4:0", shape=(?, 4, 4, 24), dtype=float32) Tensor("LeakyRelu_5:0", shape=(?, 2 , 2, 32),dtype=float32) Tensor("Conv2D_8:0", shape=(?, 4, 4, 1), dtype=float32) Tensor("ResizeNearestNeighbor_2:0", shape=(?, 64, 64, 1), dtype=float32) Tensor( "LeakyRelu_6:0", shape=(?, 16, 16, 16), dtype=float32) Tensor("LeakyRelu_7:0", shape=(?, 8, 8, 24), dtype=float32) Tensor("LeakyRelu_8 :0", shape=(?, 4, 4, 32), dtype=float32) Tensor("concat:0", shape=(?, 2688), dtype=float32) Tensor("cond/Merge:0", shape=(?, 64), dtype=float32) Tensor("cond_1/Merge:0", shape=(?, 48), dtype=float32) Tensor("cond_2/Merge:0", shape=(?, 1 ), dtype=float32) Tensor("cond_3/Merge:0", shape=(?, 128), dtype=float32) Tensor("cond_4/Merge:0", shape=(?, 96),dtype=float32) 张量("cond_5/Merge:0", shape=(?, 4), dtype=float32) Tensor("cond_7/Merge:0", shape=(?, 256), dtype=float32) Tensor("cond_8/Merge:0", shape=(?, 192), dtype=float32) Tensor("cond_9/Merge :0", shape=(?, 16), dtype=float32)

D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 帧 501/501 416x240

预测时间：7.986 秒。

HM 软件：编码器版本 [16.5]（包括 RExt）[Windows][VS 1900][64 位]

python video_to_cu_depth.py D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 416 240 32

输入文件：D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 比特流文件：str.bin 重构文件：rec.yuv 真实格式：416x240 50Hz 内部格式：6x2404 PS160Hz 输出序列：仅线性平均序列 MSE 输出：禁用帧 MSE 输出：禁用 Cabac-zero-word-padding：启用帧/字段：基于帧的编码帧索引：0 - 99（100 帧）配置文件：主要 CU 尺寸/深度/总深度：64 / 4 / 4 RQT trans。大小（最小/最大）：4 / 32 最大 RQT 深度间：3 最大 RQT 深度内：3 最小 PCM 大小：8 运动搜索范围：64 帧内周期：1 解码刷新类型：0 QP：32.00 最大 dQP 信令深度：0 Cb QP 偏移：0 Cr QP 偏移：0 QP 适配：0（范围=0） GOP 大小：1 输入位深 : (Y:8, C:8) MSB 扩展位深 : (Y:8, C:8) 内部位深 : (Y:8, C:8) PCM 采样位深 : (Y:8) , C:8) 帧内参考平滑：启用 diff_cu_chroma_qp_offset_depth ：-1extended_precision_processing_flag ：禁用 implicit_rdpcm_enabled_flag ：禁用显式 _rdpcm_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：Disabled transform_skip_flags_enabled_flags_enabled_component_component_enabled_disabled ： disabled transform_skip_flagd_contained_flagsable_flagd_consent_flagd_context persistent_rice_adaptation_enabled_flag：禁用 cabac_bypass_alignment_enabled_flag：禁用 log2_sao_offset_scale_luma：0 log2_sao_offset_scale_chroma：0 成本函数：：有损编码（默认） RateControl：0 最大合并候选数：5

工具 CFG: IBD:0 HAD:1 RDQ:1 RDQTS:1 RDpenalty:0 SQP:0 ASR:0 FEN:1 ECU:0 FDM:1 CFM:0 ESD:0 RQT:1 TransformSkip:1 TransformSkipFast:1 TransformSkipLog2MaxSize: 2 Slice: M=0 SliceSegment: M=0 CIP:0 SAO:1 PCM:0 TransQuantBypassEnabled:0 WPP:0 WPB:0 PME:2 WaveFrontSynchro:0 WaveFrontSubstreams:1 ScalingList:0 TMVPMode:1 AQpS:0 SignBitHidingFlag:1 RecalQP:0

非环境变量控制的宏设置如下： RExtDECODER_DEBUG_BIT_STATISTICS = 0 RExt__HIGH_BIT_DEPTH_SUPPORT = 0 RExtHIGH_PRECISION_FORWARD_TRANSFORM = 0 O0043_BEST_EFFORT_DECODING = 0 Input ChromaFormatIDC = 4:2:0 Output (internal) ChromaFormatIDC = 4:2:0
` 我单独运行D:\HM\HM-16.5_Test_AI\bin下video_to_cu_depth.py文件 File"video_to_cu_depth.py",line 120,in assert len(sys.argv)==5 AssertionError请问是为了...... ？？如果你能回答很感谢！请问您这个问题解决了么

— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android. — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android.

zhoushuairan commented 2 years ago

没有出现，我就是版本问题，你要把你所有的环境跟他的完全对应，应该就不会有什么问题！

---原始邮件--- 发件人: @.> 发送时间: 2021年10月30日(周六) 下午3:10 收件人: @.>; 抄送: @.**@.>; 主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

您好，请问您当时在跑extra_data_AI时会出现这个错误吗

------------------ 原始邮件 ------------------ 发件人: "tianyili2017/HEVC-Complexity-Reduction" @.>; 发送时间: 2021年10月30日(星期六) 凌晨0:26 @.>; @.**@.>; 主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

具体记不清楚了，时间有点久了，我当时的原因是因为版本号不对应 tensorflow1.10，所以才会出现问题，我把所有版本号改好之后就可以运行了

---原始邮件---
发件人: @.&gt;
发送时间: 2021年10月29日(周五) 晚上9:19
收件人: @.&gt;;
抄送: @.**@.&gt;;
主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

你好，我在复现时出现问题，特来请教。
环境：win10、安装python3.5.4及cpu版tensorflow
运行RUN_AI，结果如下：
（1）调用video_to_cu_depth.py成功，完成所有帧CU预测；
（2）可以跳出：TAppEncoder.exe 已停止工作。请问
出现这种情况可能是什么原因？请指教。

你好，请问你在运行HM-16.5_Test_AI时出现过下面的情况吗？ `Tensor("Conv2D:0", shape=(?, 1, 1, 1), dtype=float32) Tensor("ResizeNearestNeighbor:0 ", shape=(?, 16, 16, 1), dtype=float32) Tensor("LeakyRelu:0", shape=(?, 4, 4, 16), dtype=float32) Tensor("LeakyRelu_1:0", shape=(?, 2, 2, 24), dtype=float32) Tensor("LeakyRelu_2:0", shape=(?, 1, 1, 32), dtype=float32) Tensor("Conv2D_4:0", shape= (?, 2, 2, 1), dtype=float32) Tensor("ResizeNearestNeighbor_1:0", shape=(?, 32, 32, 1), dtype=float32) Tensor("LeakyRelu_3:0", shape=(? , 8, 8, 16), dtype=float32) Tensor("LeakyRelu_4:0", shape=(?, 4, 4, 24), dtype=float32) Tensor("LeakyRelu_5:0", shape=(?, 2 , 2, 32),dtype=float32) Tensor("Conv2D_8:0", shape=(?, 4, 4, 1), dtype=float32) Tensor("ResizeNearestNeighbor_2:0", shape=(?, 64, 64, 1), dtype=float32) Tensor( "LeakyRelu_6:0", shape=(?, 16, 16, 16), dtype=float32) Tensor("LeakyRelu_7:0", shape=(?, 8, 8, 24), dtype=float32) Tensor("LeakyRelu_8 :0", shape=(?, 4, 4, 32), dtype=float32) Tensor("concat:0", shape=(?, 2688), dtype=float32) Tensor("cond/Merge:0", shape=(?, 64), dtype=float32) Tensor("cond_1/Merge:0", shape=(?, 48), dtype=float32) Tensor("cond_2/Merge:0", shape=(?, 1 ), dtype=float32) Tensor("cond_3/Merge:0", shape=(?, 128), dtype=float32) Tensor("cond_4/Merge:0", shape=(?, 96),dtype=float32) 张量("cond_5/Merge:0", shape=(?, 4), dtype=float32) Tensor("cond_7/Merge:0", shape=(?, 256), dtype=float32) Tensor("cond_8/Merge:0", shape=(?, 192), dtype=float32) Tensor("cond_9/Merge :0", shape=(?, 16), dtype=float32)

D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 帧 501/501 416x240

预测时间：7.986 秒。

HM 软件：编码器版本 [16.5]（包括 RExt）[Windows][VS 1900][64 位]

python video_to_cu_depth.py D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 416 240 32

输入文件：D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 比特流文件：str.bin 重构文件：rec.yuv 真实格式：416x240 50Hz 内部格式：6x2404 PS160Hz 输出序列：仅线性平均序列 MSE 输出：禁用帧 MSE 输出：禁用 Cabac-zero-word-padding：启用帧/字段：基于帧的编码帧索引：0 - 99（100 帧）配置文件：主要 CU 尺寸/深度/总深度：64 / 4 / 4 RQT trans。大小（最小/最大）：4 / 32 最大 RQT 深度间：3 最大 RQT 深度内：3 最小 PCM 大小：8 运动搜索范围：64 帧内周期：1 解码刷新类型：0 QP：32.00 最大 dQP 信令深度：0 Cb QP 偏移：0 Cr QP 偏移：0 QP 适配：0（范围=0） GOP 大小：1 输入位深 : (Y:8, C:8) MSB 扩展位深 : (Y:8, C:8) 内部位深 : (Y:8, C:8) PCM 采样位深 : (Y:8) , C:8) 帧内参考平滑：启用 diff_cu_chroma_qp_offset_depth ：-1extended_precision_processing_flag ：禁用 implicit_rdpcm_enabled_flag ：禁用显式 _rdpcm_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：Disabled transform_skip_flags_enabled_flags_enabled_component_component_enabled_disabled ： disabled transform_skip_flagd_contained_flagsable_flagd_consent_flagd_context persistent_rice_adaptation_enabled_flag：禁用 cabac_bypass_alignment_enabled_flag：禁用 log2_sao_offset_scale_luma：0 log2_sao_offset_scale_chroma：0 成本函数：：有损编码（默认） RateControl：0 最大合并候选数：5

工具 CFG: IBD:0 HAD:1 RDQ:1 RDQTS:1 RDpenalty:0 SQP:0 ASR:0 FEN:1 ECU:0 FDM:1 CFM:0 ESD:0 RQT:1 TransformSkip:1 TransformSkipFast:1 TransformSkipLog2MaxSize: 2 Slice: M=0 SliceSegment: M=0 CIP:0 SAO:1 PCM:0 TransQuantBypassEnabled:0 WPP:0 WPB:0 PME:2 WaveFrontSynchro:0 WaveFrontSubstreams:1 ScalingList:0 TMVPMode:1 AQpS:0 SignBitHidingFlag:1 RecalQP:0

非环境变量控制的宏设置如下：
RExtDECODER_DEBUG_BIT_STATISTICS = 0 RExt__HIGH_BIT_DEPTH_SUPPORT = 0 RExtHIGH_PRECISION_FORWARD_TRANSFORM = 0 O0043_BEST_EFFORT_DECODING = 0 Input ChromaFormatIDC = 4:2:0 Output (internal) ChromaFormatIDC = 4:2:0
` 我单独运行D:\HM\HM-16.5_Test_AI\bin下video_to_cu_depth.py文件 File"video_to_cu_depth.py",line 120,in assert len(sys.argv)==5 AssertionError请问是为了...... ？？如果你能回答很感谢！
请问您这个问题解决了么

—
You are receiving this because you commented.
Reply to this email directly, view it on GitHub, or unsubscribe.
Triage notifications on the go with GitHub Mobile for iOS or Android.
— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android. — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android.

huaxiazi commented 2 years ago

谢谢

------------------ 原始邮件 ------------------ 发件人: "tianyili2017/HEVC-Complexity-Reduction" @.>; 发送时间: 2021年10月31日(星期天) 中午12:24 @.>; @.**@.>; 主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

没有出现，我就是版本问题，你要把你所有的环境跟他的完全对应，应该就不会有什么问题！

---原始邮件--- 发件人: @.> 发送时间: 2021年10月30日(周六) 下午3:10 收件人: @.>; 抄送: @.**@.>; 主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

您好，请问您当时在跑extra_data_AI时会出现这个错误吗

------------------&nbsp;原始邮件&nbsp;------------------
发件人: "tianyili2017/HEVC-Complexity-Reduction" @.&gt;;
发送时间:&nbsp;2021年10月30日(星期六) 凌晨0:26
@.&gt;;
@.**@.&gt;;
主题:&nbsp;Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

具体记不清楚了，时间有点久了，我当时的原因是因为版本号不对应 tensorflow1.10，所以才会出现问题，我把所有版本号改好之后就可以运行了

---原始邮件---
发件人: @.&amp;gt;
发送时间: 2021年10月29日(周五) 晚上9:19
收件人: @.&amp;gt;;
抄送: @.**@.&amp;gt;;
主题: Re: [tianyili2017/HEVC-Complexity-Reduction] 请教：复现不成功的原因 (#2)

你好，我在复现时出现问题，特来请教。
环境：win10、安装python3.5.4及cpu版tensorflow
运行RUN_AI，结果如下：
（1）调用video_to_cu_depth.py成功，完成所有帧CU预测；
（2）可以跳出：TAppEncoder.exe 已停止工作。请问
出现这种情况可能是什么原因？请指教。

你好，请问你在运行HM-16.5_Test_AI时出现过下面的情况吗？ `Tensor("Conv2D:0", shape=(?, 1, 1, 1), dtype=float32) Tensor("ResizeNearestNeighbor:0 ", shape=(?, 16, 16, 1), dtype=float32) Tensor("LeakyRelu:0", shape=(?, 4, 4, 16), dtype=float32) Tensor("LeakyRelu_1:0", shape=(?, 2, 2, 24), dtype=float32) Tensor("LeakyRelu_2:0", shape=(?, 1, 1, 32), dtype=float32) Tensor("Conv2D_4:0", shape= (?, 2, 2, 1), dtype=float32) Tensor("ResizeNearestNeighbor_1:0", shape=(?, 32, 32, 1), dtype=float32) Tensor("LeakyRelu_3:0", shape=(? , 8, 8, 16), dtype=float32) Tensor("LeakyRelu_4:0", shape=(?, 4, 4, 24), dtype=float32) Tensor("LeakyRelu_5:0", shape=(?, 2 , 2, 32),dtype=float32) Tensor("Conv2D_8:0", shape=(?, 4, 4, 1), dtype=float32) Tensor("ResizeNearestNeighbor_2:0", shape=(?, 64, 64, 1), dtype=float32) Tensor( "LeakyRelu_6:0", shape=(?, 16, 16, 16), dtype=float32) Tensor("LeakyRelu_7:0", shape=(?, 8, 8, 24), dtype=float32) Tensor("LeakyRelu_8 :0", shape=(?, 4, 4, 32), dtype=float32) Tensor("concat:0", shape=(?, 2688), dtype=float32) Tensor("cond/Merge:0", shape=(?, 64), dtype=float32) Tensor("cond_1/Merge:0", shape=(?, 48), dtype=float32) Tensor("cond_2/Merge:0", shape=(?, 1 ), dtype=float32) Tensor("cond_3/Merge:0", shape=(?, 128), dtype=float32) Tensor("cond_4/Merge:0", shape=(?, 96),dtype=float32) 张量("cond_5/Merge:0", shape=(?, 4), dtype=float32) Tensor("cond_7/Merge:0", shape=(?, 256), dtype=float32) Tensor("cond_8/Merge:0", shape=(?, 192), dtype=float32) Tensor("cond_9/Merge :0", shape=(?, 16), dtype=float32)

D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 帧 501/501 416x240

预测时间：7.986 秒。

HM 软件：编码器版本 [16.5]（包括 RExt）[Windows][VS 1900][64 位]

python video_to_cu_depth.py D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 416 240 32

输入文件：D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 比特流文件：str.bin 重构文件：rec.yuv 真实格式：416x240 50Hz 内部格式：6x2404 PS160Hz 输出序列：仅线性平均序列 MSE 输出：禁用帧 MSE 输出：禁用 Cabac-zero-word-padding：启用帧/字段：基于帧的编码帧索引：0 - 99（100 帧）配置文件：主要 CU 尺寸/深度/总深度：64 / 4 / 4 RQT trans。大小（最小/最大）：4 / 32 最大 RQT 深度间：3 最大 RQT 深度内：3 最小 PCM 大小：8 运动搜索范围：64 帧内周期：1 解码刷新类型：0 QP：32.00 最大 dQP 信令深度：0 Cb QP 偏移：0 Cr QP 偏移：0 QP 适配：0（范围=0） GOP 大小：1 输入位深 : (Y:8, C:8) MSB 扩展位深 : (Y:8, C:8) 内部位深 : (Y:8, C:8) PCM 采样位深 : (Y:8) , C:8) 帧内参考平滑：启用 diff_cu_chroma_qp_offset_depth ：-1extended_precision_processing_flag ：禁用 implicit_rdpcm_enabled_flag ：禁用显式 _rdpcm_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：禁用 transform_skip_rotation_enabled_flag ：Disabled transform_skip_flags_enabled_flags_enabled_component_component_enabled_disabled ： disabled transform_skip_flagd_contained_flagsable_flagd_consent_flagd_context persistent_rice_adaptation_enabled_flag：禁用 cabac_bypass_alignment_enabled_flag：禁用 log2_sao_offset_scale_luma：0 log2_sao_offset_scale_chroma：0 成本函数：：有损编码（默认） RateControl：0 最大合并候选数：5

工具 CFG: IBD:0 HAD:1 RDQ:1 RDQTS:1 RDpenalty:0 SQP:0 ASR:0 FEN:1 ECU:0 FDM:1 CFM:0 ESD:0 RQT:1 TransformSkip:1 TransformSkipFast:1 TransformSkipLog2MaxSize: 2 Slice: M=0 SliceSegment: M=0 CIP:0 SAO:1 PCM:0 TransQuantBypassEnabled:0 WPP:0 WPB:0 PME:2 WaveFrontSynchro:0 WaveFrontSubstreams:1 ScalingList:0 TMVPMode:1 AQpS:0 SignBitHidingFlag:1 RecalQP:0

非环境变量控制的宏设置如下：
RExtDECODER_DEBUG_BIT_STATISTICS = 0 RExt__HIGH_BIT_DEPTH_SUPPORT = 0 RExtHIGH_PRECISION_FORWARD_TRANSFORM = 0 O0043_BEST_EFFORT_DECODING = 0 Input ChromaFormatIDC = 4:2:0 Output (internal) ChromaFormatIDC = 4:2:0
` 我单独运行D:\HM\HM-16.5_Test_AI\bin下video_to_cu_depth.py文件 File"video_to_cu_depth.py",line 120,in assert len(sys.argv)==5 AssertionError请问是为了...... ？？如果你能回答很感谢！
请问您这个问题解决了么

—
You are receiving this because you commented.
Reply to this email directly, view it on GitHub, or unsubscribe.
Triage notifications on the go with GitHub Mobile for iOS or Android.
—
You are receiving this because you commented.
Reply to this email directly, view it on GitHub, or unsubscribe.
Triage notifications on the go with GitHub Mobile for iOS or Android.
— You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android. — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android.

tianyili2017 / HEVC-Complexity-Reduction

请教：复现不成功的原因 #2

D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv frame 501/501 416x240

D:\HM\HM-16.5_Test_AI\bin\vc10\x64\Release\BasketballPass_416x240_50.yuv 帧 501/501 416x240