关于度量的数据类型

yizt / keras-ctpn

keras复现场景文本检测网络CPTN: 《Detecting Text in Natural Image with Connectionist Text Proposal Network》；欢迎试用，关注，并反馈问题...

Apache License 2.0

107 stars 38 forks source link

Open RabbearSu opened 5 years ago

RabbearSu commented 5 years ago

https://github.com/yizt/keras-ctpn/blob/22bdee3a5a60baa29f9bc51d73e297c199547516/ctpn/layers/target.py#L204 在前面ctpn_target_graph的输出中，后三个度量的类型均为tf.float32，可是这里倒数第四个指定类型为tf.int64，是否应为tf.float32呢？

yizt commented 5 years ago

@RabbearSu 这个代码已经注释了哦

RabbearSu commented 5 years ago

@yizt 我看您在tf_utils.py里备注说尽量用原生的tf.map_fn，效率更高

yizt commented 5 years ago

@RabbearSu 一般情况下用tf.map_fn是更好一些，我这里加了自定义度量后，还用tf.map_fn遇到了bug，没有解决；所以还是改为用batch_slice了。

RabbearSu commented 5 years ago

@yizt 原来是这样，我尝试一下能不能改成tf.map_fn