快捷導(dǎo)航

Pytorch pth 格式轉(zhuǎn)ONNX 格式的詳細(xì)過(guò)程

更新時(shí)間：2023年05月18日 09:29:37 作者：MYVision_ MY視界

PyTorch 訓(xùn)練的模型，需要在Jetson nano 上部署，jetson 原生提供了TensorRT 的支持，所以一個(gè)比較好的方式是把它轉(zhuǎn)換成ONNX 格式，然后在通過(guò)ONNX 轉(zhuǎn)換成TensorRT 格式，這篇文章主要介紹了Pytorch pth 格式轉(zhuǎn)ONNX 格式,需要的朋友可以參考下

背景介紹

PyTorch 訓(xùn)練的模型，需要在Jetson nano 上部署，jetson 原生提供了TensorRT 的支持，所以一個(gè)比較好的方式是把它轉(zhuǎn)換成ONNX 格式，然后在通過(guò)ONNX 轉(zhuǎn)換成TensorRT 格式

安裝依賴庫(kù)

所以就需要安裝ONNX，安裝ONNX 具體的版本需要依賴于環(huán)境中的protobuf 和python版本，我的python版本是3.6.9

pip install onnx==1.11.0
pip install onnx-simplifier

安裝ONNX 沒(méi)問(wèn)題，但是安裝onnx-simplifier的時(shí)候，Jetson xaviar 上死活安裝不成功

各種報(bào)錯(cuò)

但是，我換到windows 上和ubuntu 服務(wù)器上，就很正常的安裝成功了

誰(shuí)知道Jetson 上為什么安裝失敗的，可以私信我或評(píng)論區(qū)告訴我，感謝~

轉(zhuǎn)換成onnx 格式

with torch.no_grad(): 
	    torch.onnx.export( 
		model, 
		example, 
		"init.onnx", 
		opset_version=11, 
		input_names=['input'], 
		output_names=['output'])

這樣就能正常導(dǎo)出了

在Jetson XAVIAR 上運(yùn)行時(shí)可能會(huì)報(bào)如下錯(cuò)誤

Illegal instruction (core dumped)

執(zhí)行下如下命令即可

 export OPENBLAS_CORETYPE=ARMV8

ONNX 轉(zhuǎn)換成TensorRT 格式

在Jetson 上通過(guò)trtexec 工具做轉(zhuǎn)換

trtexec --onnx=init.onnx --saveEngine=init.trt --explicitBatch

發(fā)現(xiàn)轉(zhuǎn)換時(shí)報(bào)如下錯(cuò)誤：Your ONNX model has been generated with INT64 weights, while TensorRT does not natively support INT64. Attempting to cast down to INT32.

所以需要通過(guò)onnx-simplifier 轉(zhuǎn)換一下，轉(zhuǎn)換命令如下

python -m onnxsim init.onnx init_sim.onnx

這樣，就轉(zhuǎn)換成功了，成功之后，后面就可以在TensorRT 上推理了

到此這篇關(guān)于Pytorch pth 格式轉(zhuǎn)ONNX 格式的文章就介紹到這了,更多相關(guān)Pytorch pth 轉(zhuǎn)ONNX 格式內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章:

相關(guān)文章

pytest進(jìn)階教程之fixture函數(shù)詳解
這篇文章主要給大家介紹了關(guān)于pytest進(jìn)階教程之fixture函數(shù)的相關(guān)資料，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
2021-03-03
教你使用pyinstaller打包Python教程
今天帶大家學(xué)習(xí)使用pyinstaller打包Python,文中有非常詳細(xì)的圖文示例及代碼,對(duì)正在學(xué)習(xí)python的小伙伴們很有幫助,需要的朋友可以參考下
2021-05-05
Python?Pytorch學(xué)習(xí)之圖像檢索實(shí)踐
隨著電子商務(wù)和在線網(wǎng)站的出現(xiàn)，圖像檢索在我們的日常生活中的應(yīng)用一直在增加。圖像檢索的基本本質(zhì)是根據(jù)查詢圖像的特征從集合或數(shù)據(jù)庫(kù)中查找圖像。本文將利用Pytorch實(shí)現(xiàn)圖像檢索，需要的可以參考一下
2022-04-04
Python實(shí)現(xiàn)帶參數(shù)的用戶驗(yàn)證功能裝飾器示例
這篇文章主要介紹了Python實(shí)現(xiàn)帶參數(shù)的用戶驗(yàn)證功能裝飾器,結(jié)合實(shí)例形式分析了Python用戶驗(yàn)證裝飾器具體定義及使用技巧,需要的朋友可以參考下
2018-12-12
python處理“&#”開(kāi)頭加數(shù)字的html字符方法
在本篇文章里小編給大家整理了關(guān)于python如何處理“&#”開(kāi)頭加數(shù)字的html字符的相關(guān)知識(shí)點(diǎn)總結(jié)，有興趣的朋友們學(xué)習(xí)下。
2019-06-06
python使用xlsx和pandas處理Excel表格的操作步驟
python的神器pandas庫(kù)就可以非常方便地處理excel,csv,矩陣,表格等數(shù)據(jù),下面這篇文章主要給大家介紹了關(guān)于python使用xlsx和pandas處理Excel表格的操作步驟,文中通過(guò)圖文介紹的非常詳細(xì),需要的朋友可以參考下
2023-01-01
python mysql實(shí)現(xiàn)學(xué)生成績(jī)管理系統(tǒng)
這篇文章主要為大家詳細(xì)介紹了python mysql實(shí)現(xiàn)學(xué)生成績(jī)管理系統(tǒng)，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
2021-10-10
python實(shí)現(xiàn)數(shù)據(jù)清洗(缺失值與異常值處理)
今天小編就為大家分享一篇python實(shí)現(xiàn)數(shù)據(jù)清洗(缺失值與異常值處理)，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
2019-12-12
keras回調(diào)函數(shù)的使用
本文主要介紹了keras回調(diào)函數(shù)的使用，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
2023-03-03
Python3.5 Json與pickle實(shí)現(xiàn)數(shù)據(jù)序列化與反序列化操作示例
這篇文章主要介紹了Python3.5 Json與pickle實(shí)現(xiàn)數(shù)據(jù)序列化與反序列化操作,結(jié)合實(shí)例形式分析了Python3.5使用Json與pickle模塊實(shí)現(xiàn)json格式數(shù)據(jù)的序列化及反序列化操作相關(guān)步驟與注意事項(xiàng),需要的朋友可以參考下
2019-04-04