淺談numpy溢出錯誤
今天在進行實驗數(shù)據(jù)處理時使用到了numpy.power()函數(shù)，一直導(dǎo)致結(jié)果和結(jié)論對不上，中間處理過程比較多，很難發(fā)現(xiàn)是因為計算數(shù)值出錯的原因，最后發(fā)現(xiàn)是numpy運算過程中數(shù)值太大導(dǎo)致的溢出錯誤問題，屬實被坑了。
當(dāng)值需要比數(shù)據(jù)類型中的可用內(nèi)存更多的內(nèi)存時，NumPy數(shù)值類型的固定大小可能會導(dǎo)致溢出錯誤。比如：
原因就是四次方運算之后的值已經(jīng)超出了numpy默認(rèn)的整數(shù)類型32位，直接造成數(shù)值溢出。
當(dāng)然上面例子很容易看出問題，如果下面這樣可就很難發(fā)現(xiàn)了，一不小心就是個“
如果使用浮點數(shù)，結(jié)果就沒有問題了。numpy默認(rèn)浮點類型是np.float64
或者運算之前指定一下數(shù)據(jù)類型，用64位去存儲這個數(shù)，不要用32位。
到此這篇關(guān)于淺談numpy溢出錯誤的文章就介紹到這了,更多相關(guān)numpy溢出錯誤內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
PyTorch并行訓(xùn)練DistributedDataParallel完整demo
這篇文章主要為大家介紹了PyTorch并行訓(xùn)練DistributedDataParallel完整demo，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2023-06-06
在arcgis使用python腳本進行字段計算時是如何解決中文問題的
這篇文章主要介紹了在arcgis使用python腳本進行字段計算時是如何解決中文問題的,需要的朋友可以參考下2015-10-10
python基礎(chǔ)pandas的drop()用法示例詳解
這篇文章主要介紹了python基礎(chǔ)pandas的drop()用法,本文通過實例代碼給大家介紹的非常詳細，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下2023-04-04
大家好，本篇文章主要講的是Python?selenium把歌詞評論做成詞云圖，感興趣的同學(xué)趕快來看一看吧，對你有幫助的話記得收藏一下2022-01-01
Python數(shù)據(jù)結(jié)構(gòu)隊列解決約瑟夫斯問題
這篇文章主要介紹了Python數(shù)據(jù)結(jié)構(gòu)隊列解決約瑟夫斯問題2023-02-02
使用python將圖片格式轉(zhuǎn)換為ico格式的示例
今天小編就為大家分享一篇使用python將圖片格式轉(zhuǎn)換為ico格式的示例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-10-10
這篇文章主要為大家詳細介紹了python機器人行走步數(shù)問題的解決，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-01-01
這篇文章主要介紹了django免除csrf校驗的方法，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-05-05
本文主要介紹了numba CUDA報錯的問題解決，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-02-02
Python利用 utf-8-sig 編碼格式解決寫入 csv 文件亂碼問題
這篇文章主要介紹了Python利用 utf-8-sig 編碼格式解決寫入 csv 文件亂碼問題,本文給大家介紹的非常詳細，具有一定的參考借鑒價值，需要的朋友可以參考下2020-02-02