为了方便工程上对现有的深度学习算法进行运用部署,本文将在windows环境下进行深度学习框架libtorch(Pytorch的C++接口)配置。
Visual Studio 2019 的安装网上有大把教程,本文在此不再赘述。网上大多数教程为vs2017及以上才能安装Libtorch,但需要注意的是,若安装的Libtorch版本为V1.10.0及以上时,需要vs2019。
CMake安装
CMake官网下载地址:https://cmake.org/download/
安装的版本需要与操作系统相匹配,如windows 64位系统则可以选则 cmake-3.8.0-rc1-win64-x64.msi,进行下载安装,安装过程非常简单,此处忽略。
libtorch安装
libtorch官网下载地址:https://pytorch.org/
【注意】下载libtorch时需要选择Release还是Debug版本,并且libtorch的版本必须与Python输出的Pytorch训练模型xxx.pt相对应,否则无法进行推理。
下载解压之后文件格式如下:
Visual Studio 2019 配置libtorch
本人之前在VS2017中配置libtorch时,因为VS版本太低,对新的C++标准并不支持,所以报错较多,后续通过论坛博客交流之后发现,VS2019对libtorch比较支持,且一次便配置成功,故推荐。
根据项目需求以及个人需要来安装库,通常根据CPU和GPU来进行选择,而调试模式一般选择Release版本进行安装,这样可以减小代码编译错误以及提高代码运行效率。
VC++ 包含目录、库目录
通用属性->VC++目录->包含目录、库目录
包含目录:
path: xxx\libtorch\include\torch\csrc\api\include path: xxx\libtorch\include path: xxx\opencv\build\include path: xxx\opencv\build\include\opencv path: xxx\opencv\build\include\opencv2
库目录:
path: xxx\libtorch\lib path: xxx\opencv\build\x64\vc15\lib
将之前文件夹里的**libtorch**和**OpenCV**的头文件目录放在包含目录,库文件放在库目录下即可。
链接器配置
链接器->输入->附加依赖项
c10.lib c10_cuda.lib torch_cpu.lib torch_cuda.lib
至此,配置完成。
测试
新建源文件main.cpp
,将如下代码
#include "torch/torch.h" #include "torch/script.h" #include <opencv2/core/core.hpp> #include <opencv2/highgui/highgui.hpp> #include <iostream> #include <string.h> int main() { cv::Mat img = cv::imread("C:\\Users\\admin\\Desktop\\1.png"); cv::imshow("show", img); cv::waitKey(3000); torch::Tensor tensor = torch::rand({ 2, 3 }); if (torch::cuda::is_available()) { std::cout << "CUDA is available! Training on GPU" << std::endl; auto tensor_cuda = tensor.cuda(); std::cout << tensor_cuda << std::endl; } else { std::cout << "CUDA is not available! Training on CPU" << std::endl; std::cout << tensor << std::endl; } std::cin.get(); }
OpenCV调试与Libtorch调试结果如下时,调试成功!
### 二、BUG处理 1. 直接运行,输出: `“cuda::is_available(): 0”`,GPU未调用起来。 **解决方法**: - 使用VS2017及以上版本; - windows上装的cuda版本需要与下载的libtorch的cuda版本相对应; - 在“属性 --> 链接器 --> 命令行 --> 其他选项”中添加
/INCLUDE:?warp_size@cuda@at@@YAHXZ
2. 关于VS2017编译时,出现不支持或者大量错误,可以使用更高级的VS(如VS2019)进行编译。