Open huangjun11 opened 1 year ago
配置文件如下: name: "uie" backend: "fastdeploy" max_batch_size: 1
input [ { name: "INPUT_0" data_type: TYPE_STRING dims: [ 1 ] }, { name: "INPUT_1" data_type: TYPE_STRING dims: [ 1 ] } ]
output [ { name: "OUTPUT_0" data_type: TYPE_STRING dims: [ 1 ] } ]
instance_group [ { count: 1
kind: KIND_GPU
# The instance is deployed on the 0th GPU card
gpus: [0]
} ]
optimization { execution_accelerators { gpu_execution_accelerator : [ {
name: "tensorrt",
# use fp16 on TRT engine
parameters { key: "precision" value: "trt_fp16" }
} ] }}
请问解决了吗
温馨提示:根据社区不完全统计,按照模板提问,可以加快回复和解决问题的速度
环境
问题日志及出现问题的操作流程
examples
下的部署示例,包括使用examples提供的模型,确认是否可以正确执行examples
下的代码可以运行,但自己的模型,或自己的代码不能运行examples
下的部署示例,包括使用examples提供的模型,确认是否可以正确执行examples
下的代码可以运行,但自己的模型,或自己的代码不能运行