[TOC] 0. onnx模型准备以及测试图1. c++使用onnxruntime进行推理12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218318418518618718 ...

[TOC] 单目跟踪算法： 产生式 鉴别式 基于相关滤波 基于深度学习 6.1 什么是跟踪？ 6.2 单目标跟踪 6.2.1 单目标跟踪-产生式模型 Kalman Filtercode: https://github.com/andylei77/kalman_particle_demo N(均值，协方差) Particle Filter 6.2.2 单目标跟踪-鉴别式模型 BoostingMILMEDIANFLOW TLD 跟踪器： 光流 检测器： OPENCV API code: https://github.com/andylei77/learnopencv/tree/master/tracking 6.2.3 单目标跟踪-基于相关滤波算法 MOSSE 评价相似性的滤波算法 CSK CSK方法 密集采样，通过循环矩阵来实现 分类器的学习通过快速傅里叶变换成频域内的计算，不受SVM或Boost等学习方法的限制(什么限制？？)。无论线性分类还是核分类，整个学习过程十分高效。 实时性好 MOSSE KCF 循环矩阵 循环矩阵傅里叶对角化性质–简化计算加速分 ...

TVM [TOC] 训练框架从训练框架角度来看，Google的TensorFlow和FaceBook的Pytorch是全球主流的深度学习框架，另外亚马逊的MxNet，百度的Paddle，旷视的MegEngine，华为的Mindspore以及一流科技的OneFlow也逐渐在被更多人接受和使用。这么多训练框架，我们究竟应该选择哪个？如果追求易用性，可能你会选择Pytorch，如果追求项目部署落地，可能你会选择TensorFlow，如果追求分布式训练最快可能你会体验OneFlow。 亚马逊的MxNet， 百度的Paddle， 旷视的MegEngine， 华为的Mindspore ModelScope：阿里达摩院联手中国计算机学会（CCF） 推理框架前向推理框架，例如在Intel的CPU/GPU上就使用OpenVINO，在Arm的CPU/GPU上使用NCNN/MNN等，在Nvidia GPU上使用TensorRT。 科学家为编译器抽象出了编译器前端，编译器中端，编译器后端等概念，并引入IR (Intermediate Representation)的概率。解释如下： 编译器前端：接收C/C+ ...

GitHub - JaidedAI/EasyOCR: Ready-to-use OCR with 80+ supported languages and all popular writing scripts including Latin, Chinese, Arabic, Devanagari, Cyrillic and etc. Install 1pip install easyocr usage 123import easyocrreader = easyocr.Reader(['ch_sim','en']) # this needs to run only once to load the model into memoryresult = reader.readtext('chinese.jpg')

深度学习模型部署，c++调用python模块的Tensorflow推理过程

OpenVINO是英特尔推出的视觉推理加速工具包。应用在Intel的CPU及其GPU上。OpenCV 3.4.1版本加入了英特尔推理引擎后端（英特尔推理引擎是OpenVINO中的一个组件），为英特尔平台的模型推理进行加速。OpenCV新版本（4.3.0）加入nGraph OpenVINO API(2020.03)。2018 年5月 Intel 发布了 OpenVINO（Open Visual Inferencing and Neural Network Optimization， 开放视觉推理和神经网络优化）工具包，旨在为Intel 计算平台的（基于神经网络的视觉推理任务）提供高性能加速方案，同时支持Intel CPU、 GPU、FPGA 和 Movidius 计算棒等。———————————————— 原文链接：https://blog.csdn.net/weixin_39956356/article/details/107103244 u版YOLOv5目标检测openvino实现

[TOC] libtorch_URLs1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768697071727374757677787980818283848586878889909192939495969798991001011021031041051061071081091101111121131141151161171181191201211221231241251261271281291301311321331341351361371381391401411421431441451461471481491501511521531541551561571581591601611621631641651661671681691701711721731741751761771781791801811821831841851861871881891901911921931941951961 ...

[TOC] Offical web github offical https://stackoverflow.com/questions/65379070/how-to-use-onnx-model-in-c-code-on-linux pytorch to onnx to tensorRT mx2onnx MXNet model to the ONNX model format onnx2mxpytorch2onnxpb2onnx123456789101112131415161718192021222324import tf2onnxfrom tf2onnx import tf_loaderdef convert_ckpt(checkpoint, inputs, outputs, out_path): graph_def, inputs, outputs = tf_loader.from_checkpoint(checkpoint, inputs, outputs) model_path = checkpoint model_proto, external_te ...

[TOC] C++模型调用模型转换思路通常为: Pytorch -> ONNX -> TensorRT Pytorch -> ONNX -> TVM Pytorch -> 转换工具 -> caffe Pytorch -> torchscript(C++版本Torch) [此方式] pytorch-> JIT -> TensorRT https://pytorch.org/cppdocs/api/library_root.html https://pytorch.org/tutorials/advanced/cpp_frontend.html 最近所里有一个 GUI 项目需要调用 PyTorch 的模型，虽然之前做过一些，但是大部分用的是 Python 接口，这次对实效性有要求，因此做一个 C++的接口，现在把一些配置事项做个记录。 准备工作下载安装支持库首先，需要下载安装LibTorch支持库，推荐使用LibPyTorch 下载后直接解压 12wget https://download.pytorch.org/libtorch/ ...

无人驾驶中的动态环境检测-2D检测[TOC] 2D检测 IDea: 位置：先找到所有的ROI Sliding Window / Slective Search / … | CNN(RPN …) 类别：对每个ROI进行分类提取类别信息 HOG/DPM/SIFT/LBP/… | CNN(conv pooling) SVM / Adaboost / … | CNN (softmax ….) 位置修正：Bounding Box Regression Linear Regresion / … | CNN(regression …) How to Generate ROI How To Classify ROI 4.1 two-step (基于图片的检测方法) RCNN, SPPnet, Fast-RCNN, Faster-RCNN Befor CNN 位置：sliding window / region proposal(候选框) 手工特征 + 分类器 位置修正 RCNN 位置：Selective Search 提取候选框 类别：CNN提取特征 + SVM分类 每 ...