时间线

201903-201904

修复paddle-mobile armv7 CPU的gemm、gemv多线程计算bug
调研高通骁龙神经网络推理引擎SNPE
协助vis解决paddle-mobile在OCR模型中的bug
优化paddle-mobile文档等

BugFix: fix multi-threadings incorrectness of gemm by ysh329 · Pull Request #1568 · PaddlePaddle/paddle-mobile https://github.com/PaddlePaddle/paddle-mobile/pull/1568

BugFix: fix multi-threadings incorrectness of cpu gemm by ysh329 · Pull Request #1569 · PaddlePaddle/paddle-mobile https://github.com/PaddlePaddle/paddle-mobile/pull/1569

201905-201906

参与推理框架PaddleLite的开发
- 在RK3399 ARM Linux环境下跑通paddle-lite推理框架（跑通fc小模型的可行性验证）；
- 迁移Paddle的op和anakin的CPU kernel到PaddleLite中：pooling、mul、concat、transpose、transpose2；
- cpu的mul、pooling的op和kernel bug修复：http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/44；
- 加入通用模型test bin，http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/64；
- 在mix2（高通835）上测试lite在安卓上armv7的性能，并与Anakin作比较：
- 调研paddle-mobile支持的安卓、ios在cpu、gpu、fpga的op和不同硬件支持情况、当前业务支持的模型op情况；
- 增加编译指导手册，见pr的讨论对话：https://github.com/PaddlePaddle/Paddle/pull/17541；
- 调研mace cpu runtime：https://www.yuque.com/docs/share/0e85f102-ad23-4dcf-ad36-4bfa9bfcad7b；
参与Vis业务对接
- 用paddle-mobile跑通手百OCR模型：在高通835上用paddle-mobile跑出OCR三个模型（检测，中英文识别）并profile；
- 参与手百Crash问题与解决：编译了一个debug版的包给Vis进一步查看定位问题。原因：paddle-mobile的裁剪过的protobuf库与手百壳子里集成的MTJ库（用于统计的移动端SDK）里的函数重名导致在load模型时crash。手百同学给出解决方案并已merge，见https://github.com/PaddlePaddle/paddle-mobile/pull/1641，重新编译库给vis同学后未出现问题；
- 评估NLP-paddle-mobile模型（见统计operator链接）：目前有至少7个op在paddle-mobile中没有实现，考虑到实现，优化，结果对齐。工作量不少；
- 解决车联网基于paddle-mobile在B模型加载模型失败的问题：发现缺少fill_constant_batch_size_like这个op导致加载模型失败；
- 解决车联网-手势模型执行到concat失败：原因估计是版本问题。我用最新版代码并打印中间DEBUG等LOG信息，并未出现此问题；
增强paddle-mobile框架易用性：重新调整了paddle-mobile预处理数据的代码修复其中bug和增加/修复相关文档、修复文档失效链接；
增强paddle主框架易用性：api文档修复：
- https://github.com/PaddlePaddle/Paddle/pull/17378；
- https://github.com/PaddlePaddle/Paddle/pull/17530

201907-201908

参与新框架PaddleLite的开发
- 实现OpenCL的gemv、gemm（conv1x1、im2col gemm）、fc、im2col、elementwise-add、Kernel到PaddleLite中
- http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/141
- http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/159
- http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/170
- http://10.87.145.36/inference/paddlelite/merge_requests/192
- http://10.87.145.36/inference/paddlelite/merge_requests/206
- 优化现有gemm
- http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/239
- http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/247
- 测试opencl-fp32三个模型（mobilenetv1、mobilenetv2、resnet50），在armv7、armv8上高通835、845、855的性能，结论：同设备下，armv7和armv8上的gpu性能一致；
- 移除eigen依赖：http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/87 ；
- 库裁剪
- 基于strip命令，将android-armv8动态库libpaddle_lite_jni.so从16MB左右裁剪到4.9MB；
- 裁剪掉glog用logging代替、在非test时裁剪掉gflags、gtest
  - http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/125
  - http://infer-dev.paddlepaddle.org/inference/paddlelite/merge_requests/126
- 竞品分析。加入ncnn、paddle-mobile等框架的文档、API对比分析等：http://infer-dev.paddlepaddle.org/inference/inferencedocs/blob/master/lite/product_research.md

yuenshome / yuenshome.github.io

overview 201903-201909 #73

时间线

201903-201904

201905-201906

201907-201908