运行paddle_lite_ocr，报模型opt版本和paddle-lite不一致问题

[Whisper-jack]

为使您的问题得到快速解决，在建立 Issue 前，请您先通过如下方式搜索是否有相似问题:历史 issue, FAQ 文档, 官方文档

如果您没有查询到相似问题，为快速解决您的提问，建立 issue 时请提供如下细节信息：

• 标题：简洁、精准描述您的问题，例如“最新预测库的 API 文档在哪儿 ”

• 版本、预测库信息：
     1）Paddle Lite 版本：v2.13
     2）Host 环境：Ubuntu 18.04
     3）运行设备环境：arm8
     4）预测后端信息：CPU

• 预测信息
     1）预测 API：C++
     2）预测选项信息：armv7/armv8、单线程/多线程 等
     3）预测库来源：源码编译
     sudo env "PATH=$PATH" CC=/opt/public/gcc/hisi-linux/x86-arm/aarch64-mix210-linux/bin/aarch64-linux-gnu-gcc CXX=/opt/public/gcc/hisi-linux/x86-arm/aarch64-mix210-linux/bin/aarch64-linux-gnu-g++ AR=/opt/public/gcc/hisi-linux/x86-arm/aarch64-mix210-linux/bin/aarch64-linux-gnu-ar ./lite/tools/build_linux.sh --arch=armv8 --with_cv=ON --with_extra=ON
     

• 问题描述：
  使用的opt：paddlelite opt version:v2.13-rc
  模型：
  
  opt正常编译出nb模型
  Paddle-Lite正常编译出cxx
  PaddleOCR编译出执行文件后放到设备中运行结果如下：
  ./paddle_lite_ocr system ch_PP-OCRv3_det_opt.nb ch_PP-OCRv3_rec_opt.nb ch_ppocr_mobile_v2.0_cls_opt.nb arm8 INT8 1 1 ./11.png ./config.txt ./ppocr_keys_v1.txt false
  
  请问为什么没有识别图片中的文字信息呢？
  一直报警告opt版本和paddle-lite版本不对
  https://github.com/PaddlePaddle/PaddleOCR/blob/release/2.7/deploy/lite/readme_ch.md
  我按照文档的步骤进行

另外一个问题是我在v2.13-rc中下载opt文件
https://github.com/PaddlePaddle/PaddleOCR/blob/release/2.7/deploy/lite/readme_ch.md

opt_linux_aarch64应该如何使用：
lijiajie@lijiajie-virtual-machine:~/Paddle-Lite/opt$ ./opt_linux_aarch64
--model_file=./ch_PP-OCRv3_det_infer/inference.pdmodel
--param_file=./ch_PP-OCRv3_det_infer/inference.pdiparams
--optimize_out=./ch_PP-OCRv3_det_opt
--valid_targets=arm
--optimize_out_type=naive_buffer
bash: ./opt_linux_aarch64：无法执行二进制文件: 可执行文件格式错误

[Whisper-jack]

文档中介绍：pip install paddlelite==2.10 # paddlelite版本要与预测库版本一致
但是实际上运行时无法下载任何一个指定版本
pip install paddlelite默认下载2.13-rc
paddlelite opt version:v2.13-rc

[Whisper-jack]

成功识别
./paddle_lite_ocr system ch_PP-OCRv3_det_opt.nb ch_PP-OCRv3_rec_opt.nb ch_ppocr_mobile_v2.0_cls_opt.nb arm8 INT8 4 4 ./11.jpg ./config.txt ./ppocr_keys_v1.txt 0

记录：
警告问题原因在于版本不一致
Paddle-Lite切换到v2.13-rc
opt版本v2.13-rc

构建过程参考：
https://blog.csdn.net/qq_39056987/article/details/121078743

[Whisper-jack]

问题：如果使用png格式图片则不输出识别结果

[yulangz]

问题：如果使用png格式图片则不输出识别结果

使用 png 格式不输出识别结果，是会报错还是会 hang 住呢？有可能是模型没有支持 png 格式的图片，可以到 paddleOCR 仓库下提 issue 问问

[Whisper-jack]

只是不输出结果而已

[yulangz]

PaddlePaddle/PaddleOCR#12016
opencv 版本同样存在影响，建议更换 opencv 版本尝试，或在 PaddleOCR 仓库下寻求帮助

[Whisper-jack]

PaddlePaddle/PaddleOCR#12016 opencv 版本同样存在影响，建议更换 opencv 版本尝试，或在 PaddleOCR 仓库下寻求帮助

请问，Paddle-Lite运行识别一张例子图片耗时8s左右，是什么因素造成识别慢呢，执行语句：
./paddle_lite_ocr system ch_PP-OCRv3_det_opt.nb ch_PP-OCRv3_rec_opt.nb ch_ppocr_mobile_v2.0_cls_opt.nb arm8 INT8 4 4 ./11.jpg ./config.txt ./ppocr_keys_v1.txt 0

[yulangz]

PaddlePaddle/PaddleOCR#12016 opencv 版本同样存在影响，建议更换 opencv 版本尝试，或在 PaddleOCR 仓库下寻求帮助

请问，Paddle-Lite运行识别一张例子图片耗时8s左右，是什么因素造成识别慢呢，执行语句： ./paddle_lite_ocr system ch_PP-OCRv3_det_opt.nb ch_PP-OCRv3_rec_opt.nb ch_ppocr_mobile_v2.0_cls_opt.nb arm8 INT8 4 4 ./11.jpg ./config.txt ./ppocr_keys_v1.txt 0

具体是什么硬件呢？这个识别慢是和什么对比呢？可能和模型与系统本身有关系

[Whisper-jack]

终端设备cpu是海思mix210，4核，armv8
~ # free -m
total used free shared buff/cache available
Mem: 682 275 198 88 208 412

模型：
ch_PP-OCRv3_det_slim_infer.nb
ch_PP-OCRv3_rec_slim_infer.nb
ch_ppocr_mobile_v2.0_cls_infer_opt.nb
config.txt的参数使用默认：
max_side_len 960
det_db_thresh 0.3
det_db_box_thresh 0.5
det_db_unclip_ratio 1.6
det_db_use_dilate 0
det_use_polygon_score 1
use_direction_classify 1
rec_image_height 48
修改rec_image_height 至35左右，ocr识别时间大概为5s。
运行命令中使用线程数增大，识别时间也没有明显变化。
请问还有什么办法可以提升识别速度吗，是不是受限于这个硬件配置，有什么办法可以分析ocr运行时的性能？

paddle-lite运行时：

感谢您的回复！