淺談numpy溢出錯(cuò)誤
今天在進(jìn)行實(shí)驗(yàn)數(shù)據(jù)處理時(shí)使用到了numpy.power()函數(shù)，一直導(dǎo)致結(jié)果和結(jié)論對(duì)不上，中間處理過(guò)程比較多，很難發(fā)現(xiàn)是因?yàn)橛?jì)算數(shù)值出錯(cuò)的原因，最后發(fā)現(xiàn)是numpy運(yùn)算過(guò)程中數(shù)值太大導(dǎo)致的溢出錯(cuò)誤問(wèn)題，屬實(shí)被坑了。
當(dāng)值需要比數(shù)據(jù)類型中的可用內(nèi)存更多的內(nèi)存時(shí)，NumPy數(shù)值類型的固定大小可能會(huì)導(dǎo)致溢出錯(cuò)誤。比如：
原因就是四次方運(yùn)算之后的值已經(jīng)超出了numpy默認(rèn)的整數(shù)類型32位，直接造成數(shù)值溢出。
當(dāng)然上面例子很容易看出問(wèn)題，如果下面這樣可就很難發(fā)現(xiàn)了，一不小心就是個(gè)“
如果使用浮點(diǎn)數(shù)，結(jié)果就沒(méi)有問(wèn)題了。numpy默認(rèn)浮點(diǎn)類型是np.float64
或者運(yùn)算之前指定一下數(shù)據(jù)類型，用64位去存儲(chǔ)這個(gè)數(shù)，不要用32位。
到此這篇關(guān)于淺談numpy溢出錯(cuò)誤的文章就介紹到這了,更多相關(guān)numpy溢出錯(cuò)誤內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
PyTorch并行訓(xùn)練DistributedDataParallel完整demo
這篇文章主要為大家介紹了PyTorch并行訓(xùn)練DistributedDataParallel完整demo，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2023-06-06
在arcgis使用python腳本進(jìn)行字段計(jì)算時(shí)是如何解決中文問(wèn)題的
這篇文章主要介紹了在arcgis使用python腳本進(jìn)行字段計(jì)算時(shí)是如何解決中文問(wèn)題的,需要的朋友可以參考下2015-10-10
python基礎(chǔ)pandas的drop()用法示例詳解
這篇文章主要介紹了python基礎(chǔ)pandas的drop()用法,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2023-04-04
Python?selenium把歌詞評(píng)論做成詞云圖
大家好，本篇文章主要講的是Python?selenium把歌詞評(píng)論做成詞云圖，感興趣的同學(xué)趕快來(lái)看一看吧，對(duì)你有幫助的話記得收藏一下2022-01-01
Python數(shù)據(jù)結(jié)構(gòu)隊(duì)列解決約瑟夫斯問(wèn)題
這篇文章主要介紹了Python數(shù)據(jù)結(jié)構(gòu)隊(duì)列解決約瑟夫斯問(wèn)題2023-02-02
使用python將圖片格式轉(zhuǎn)換為ico格式的示例
今天小編就為大家分享一篇使用python將圖片格式轉(zhuǎn)換為ico格式的示例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-10-10
python機(jī)器人行走步數(shù)問(wèn)題的解決
這篇文章主要為大家詳細(xì)介紹了python機(jī)器人行走步數(shù)問(wèn)題的解決，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2018-01-01
這篇文章主要介紹了django免除csrf校驗(yàn)的方法，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-05-05
numba CUDA報(bào)錯(cuò)的問(wèn)題解決
本文主要介紹了numba CUDA報(bào)錯(cuò)的問(wèn)題解決，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2023-02-02
Python利用 utf-8-sig 編碼格式解決寫入 csv 文件亂碼問(wèn)題
這篇文章主要介紹了Python利用 utf-8-sig 編碼格式解決寫入 csv 文件亂碼問(wèn)題,本文給大家介紹的非常詳細(xì)，具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2020-02-02