欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

淺談numpy溢出錯(cuò)誤

 更新時(shí)間:2023年03月19日 14:21:07   作者:Vaeeeeeee  
本文主要介紹了淺談numpy溢出錯(cuò)誤,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

今天在進(jìn)行實(shí)驗(yàn)數(shù)據(jù)處理時(shí)使用到了numpy.power()函數(shù),一直導(dǎo)致結(jié)果和結(jié)論對不上,中間處理過程比較多,很難發(fā)現(xiàn)是因?yàn)橛?jì)算數(shù)值出錯(cuò)的原因,最后發(fā)現(xiàn)是numpy運(yùn)算過程中數(shù)值太大導(dǎo)致的溢出錯(cuò)誤問題,屬實(shí)被坑了。

當(dāng)值需要比數(shù)據(jù)類型中的可用內(nèi)存更多的內(nèi)存時(shí),NumPy數(shù)值類型的固定大小可能會導(dǎo)致溢出錯(cuò)誤。比如:

原因就是四次方運(yùn)算之后的值已經(jīng)超出了numpy默認(rèn)的整數(shù)類型32位,直接造成數(shù)值溢出。
當(dāng)然上面例子很容易看出問題,如果下面這樣可就很難發(fā)現(xiàn)了,一不小心就是個(gè)“

如果使用浮點(diǎn)數(shù),結(jié)果就沒有問題了。numpy默認(rèn)浮點(diǎn)類型是np.float64

或者運(yùn)算之前指定一下數(shù)據(jù)類型,用64位去存儲這個(gè)數(shù),不要用32位。

 到此這篇關(guān)于淺談numpy溢出錯(cuò)誤的文章就介紹到這了,更多相關(guān)numpy溢出錯(cuò)誤內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

最新評論