淺談numpy溢出錯(cuò)誤
今天在進(jìn)行實(shí)驗(yàn)數(shù)據(jù)處理時(shí)使用到了numpy.power()函數(shù),一直導(dǎo)致結(jié)果和結(jié)論對不上,中間處理過程比較多,很難發(fā)現(xiàn)是因?yàn)橛?jì)算數(shù)值出錯(cuò)的原因,最后發(fā)現(xiàn)是numpy運(yùn)算過程中數(shù)值太大導(dǎo)致的溢出錯(cuò)誤問題,屬實(shí)被坑了。
當(dāng)值需要比數(shù)據(jù)類型中的可用內(nèi)存更多的內(nèi)存時(shí),NumPy數(shù)值類型的固定大小可能會導(dǎo)致溢出錯(cuò)誤。比如:
原因就是四次方運(yùn)算之后的值已經(jīng)超出了numpy默認(rèn)的整數(shù)類型32位,直接造成數(shù)值溢出。
當(dāng)然上面例子很容易看出問題,如果下面這樣可就很難發(fā)現(xiàn)了,一不小心就是個(gè)“
如果使用浮點(diǎn)數(shù),結(jié)果就沒有問題了。numpy默認(rèn)浮點(diǎn)類型是np.float64
或者運(yùn)算之前指定一下數(shù)據(jù)類型,用64位去存儲這個(gè)數(shù),不要用32位。
到此這篇關(guān)于淺談numpy溢出錯(cuò)誤的文章就介紹到這了,更多相關(guān)numpy溢出錯(cuò)誤內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
PyTorch并行訓(xùn)練DistributedDataParallel完整demo
這篇文章主要為大家介紹了PyTorch并行訓(xùn)練DistributedDataParallel完整demo,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-06-06在arcgis使用python腳本進(jìn)行字段計(jì)算時(shí)是如何解決中文問題的
這篇文章主要介紹了在arcgis使用python腳本進(jìn)行字段計(jì)算時(shí)是如何解決中文問題的,需要的朋友可以參考下2015-10-10python基礎(chǔ)pandas的drop()用法示例詳解
這篇文章主要介紹了python基礎(chǔ)pandas的drop()用法,本文通過實(shí)例代碼給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2023-04-04Python數(shù)據(jù)結(jié)構(gòu)隊(duì)列解決約瑟夫斯問題
這篇文章主要介紹了Python數(shù)據(jù)結(jié)構(gòu)隊(duì)列解決約瑟夫斯問題2023-02-02使用python將圖片格式轉(zhuǎn)換為ico格式的示例
今天小編就為大家分享一篇使用python將圖片格式轉(zhuǎn)換為ico格式的示例,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-10-10Python利用 utf-8-sig 編碼格式解決寫入 csv 文件亂碼問題
這篇文章主要介紹了Python利用 utf-8-sig 編碼格式解決寫入 csv 文件亂碼問題,本文給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-02-02