支持单通道推理

[CF-chen-feng-CF]

用TensorRT对YOLOV5推理时，目前默认使用三通道，可否增加单/三 通道选择的变量

[FeiYull]

@CF-chen-feng-CF 可以，以下文件中几个核函数需要自己改改，其实不难。 例如，下面代码中，是对彩色图的resize，其中c0 c1 c2表示彩色图三个通道。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L73 而下面这个函数是对灰度图的resize，可以参考下。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L212C1-L212C1 再比如：归一化函数中的ch变量表示通道。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L319

[CF-chen-feng-CF]

@CF-chen-feng-CF 可以，以下文件中几个核函数需要自己改改，其实不难。 例如，下面代码中，是对彩色图的resize，其中c0 c1 c2表示彩色图三个通道。

https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L73

而下面这个函数是对灰度图的resize，可以参考下。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L212C1-L212C1 再比如：归一化函数中的ch变量表示通道。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L319

@FeiYull 已经尝试过了，更改resizeDevice、normDevice、hwc2chwDevice 并注释掉bgr2rgbDevice， 预处理全部改成单通道的形式，但没有结果预测出来

[FeiYull]

需要检查修改后，图像处理结果是否符合预期

FeiYull @.***

------------------ 原始邮件 ------------------ 发件人: CF-chen-feng-CF @.> 发送时间: 2023年11月23日 17:30 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] 支持单通道推理 (Issue #54)

@CF-chen-feng-CF 可以，以下文件中几个核函数需要自己改改，其实不难。 例如，下面代码中，是对彩色图的resize，其中c0 c1 c2表示彩色图三个通道。

https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L73

而下面这个函数是对灰度图的resize，可以参考下。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L212C1-L212C1 再比如：归一化函数中的ch变量表示通道。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L319

已经尝试过了，更改resizeDevice、normDevice、hwc2chwDevice 并注释掉bgr2rgbDevice， 预处理全部改成单通道的形式，但没有结果预测出来

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

[CF-chen-feng-CF]

需要检查修改后，图像处理结果是否符合预期 FeiYull @. … ------------------ 原始邮件 ------------------ 发件人: CF-chen-feng-CF @.> 发送时间: 2023年11月23日 17:30 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] 支持单通道推理 (Issue #54) @CF-chen-feng-CF 可以，以下文件中几个核函数需要自己改改，其实不难。 例如，下面代码中，是对彩色图的resize，其中c0 c1 c2表示彩色图三个通道。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L73 而下面这个函数是对灰度图的resize，可以参考下。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L212C1-L212C1 再比如：归一化函数中的ch变量表示通道。 https://github.com/FeiYull/TensorRT-Alpha/blob/e8366acf8287d1c33c828153fd7259d325f8569f/utils/kernel_function.cu#L319 已经尝试过了，更改resizeDevice、normDevice、hwc2chwDevice 并注释掉bgr2rgbDevice， 预处理全部改成单通道的形式，但没有结果预测出来 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.>

@FeiYull 已成功修改完成，感谢！