当前位置:网站首页>Pytorch模型转ONNX模型
Pytorch模型转ONNX模型
2022-08-11 06:11:00 【u013250861】
ONNX,全称: Open Neural Network Exchange(ONNX,开放神经网络交换),是一个用于表示深度学习模型的标准,可使模型在不同框架之间进行转移。
ONNX是一种针对机器学习所设计的开放式的文件格式,用于存储训练好的模型。它使得不同的人工智能框架(如Pytorch, MXNet)可以采用相同格式存储模型数据并交互。ONNX的规范及代码主要由微软,亚马逊 ,Facebook 和 IBM 等公司共同开发,以开放源代码的方式托管在Github上。目前官方支持加载ONNX模型并进行推理的深度学习框架有:Caffe2, PyTorch,MXNet,ML.NET,TensorRT和Microsoft CNTK,并且TensorFlow也非官方的支持ONNX。
ONNX模型可以看作是模型转化之间的中间模型,同时也是支持做推理的。一般来说,onnx的推理 速度要比pytorch快上一倍。
环境配置
- CUDA版本:11.3.1
- cuDNN版本:8.2.1
- TensorRT版本:8.0.3.4
- 显卡:1650
- pytorch:1.10.2
模型的转化和推理对版本有要求,如果版本对应不上很可能出现千奇百怪的问题。
参考资料:
【pytorch模型转onnx模型】一些模型转化和加速推理的知识
将 PyTorch 模型转换为 ONNX 格式
使用 PyTorch 训练数据分析模型
将训练好的pytorch模型的pth文件转换成onnx模型(亲测成功)
pth转onnx
边栏推荐
猜你喜欢
随机推荐
一张图了解JVM八大原子操作
Amazon Get AMAZON Product Details API Return Value Description
Amazon API interface Daquan
MySQL使用GROUP BY 分组查询时,SELECT 查询字段包含非分组字段
【预约观看】Ambire 智能钱包 AMA 活动第四期即将举行
Waldom Electronics宣布成立顾问委员会
buu—Re(5)
PIXHAWK飞控使用RTK
EasyPlayer针对H.265视频不自动播放设置下,loading状态无法消失的解决办法
基于FPGA的FIR滤波器的实现(5)— 并行结构FIR滤波器的FPGA代码实现
《Show, Attend and Tell: Neural Image Caption Generation with Visual Attention》论文阅读(详细)
已解决EROR 1064 (42000): You have an error in. your SOL syntax. check the manual that corresponds to yo
实现通用的、高性能排序和快排优化
When MySQL uses GROUP BY to group the query, the SELECT query field contains non-grouping fields
抖音API接口大全
接入网、承载网、核心网是什么,交换机路由器是什么、这个和网络的协议有什么关系呢?
详解BLEU的原理和计算
软件测试基本流程有哪些?北京专业第三方软件检测机构安利
LeetCode刷题系列 -- 46. 全排列
拼多多api接口应用示例