python編寫softmax函數(shù)、交叉熵函數(shù)實例
更新時間：2020年06月11日 15:04:58 作者：ChunxueShi
這篇文章主要介紹了python編寫softmax函數(shù)、交叉熵函數(shù)實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
python代碼如下：
import numpy as np # Write a function that takes as input a list of numbers, and returns # the list of values given by the softmax function. def softmax(L): pass expL = np.exp(L) sumExpL = sum(expL) result = [] for i in expL: result.append(i*1.0/sumExpL) return result
python編寫交叉熵公式：
import numpy as np def cross_entropy(Y, P): Y = np.float_(Y) P = np.float_(P) return -np.sum(Y * np.log(P) + (1 - Y) * np.log(1 - P))
補充知識：分類時，為什么不使用均方誤差而是使用交叉熵作為損失函數(shù)
MSE（均方誤差）對于每一個輸出的結(jié)果都非?？粗?，而交叉熵只對正確分類的結(jié)果看重。
例如：在一個三分類模型中，模型的輸出結(jié)果為（a,b,c)，而真實的輸出結(jié)果為(1,0,0)，那么MSE與cross-entropy相對應的損失函數(shù)的值如下：
MSE：
cross-entropy：
從上述的公式可以看出，交叉熵的損失函數(shù)只和分類正確的預測結(jié)果有關(guān)系，而MSE的損失函數(shù)還和錯誤的分類有關(guān)系，該分類函數(shù)除了讓正確的分類盡量變大，還會讓錯誤的分類變得平均，但實際在分類問題中這個調(diào)整是沒有必要的。
但是對于回歸問題來說，這樣的考慮就顯得很重要了。所以，回歸問題熵使用交叉上并不合適。
以上這篇python編寫softmax函數(shù)、交叉熵函數(shù)實例就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了python實現(xiàn)合并兩個數(shù)組的方法,實例分析了兩種常用的合并數(shù)組的技巧,非常簡單實用,需要的朋友可以參考下2015-05-05
在本篇文章里小編給大家整理了關(guān)于python中聲明變量類型的相關(guān)知識點，需要的朋友們可以學習下。2020-06-06
今天小編就為大家分享一篇python3寫的簡單本地文件上傳服務器實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-06-06
這篇文章主要為大家詳細介紹了Python將多個excel表格合并為一個表格的方法，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-01-01
python中ImageTk.PhotoImage()不顯示圖片卻不報錯問題解決
這篇文章主要給大家介紹了關(guān)于在python中ImageTk.PhotoImage()不顯示圖片卻不報錯問題的解決方法，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2018-12-12
思考分析Python運算中?a+=b?和?a=a+b是否相等
這篇文章主要為大家介紹了Python運算中a+=b和a=a+b是否相等及原理思考分析，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2023-04-04
這篇文章主要為大家詳細介紹了Python及PyCharm下載與安裝教程，具有一定的參考價值，感興趣的小伙伴們可以參考一下2017-11-11
今天小編就為大家分享一篇Pytorch加載部分預訓練模型的參數(shù)實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08
Python headers請求頭如何實現(xiàn)快速添加
這篇文章主要介紹了Python headers請求頭如何實現(xiàn)快速添加,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-11-11
Python是一門解釋性語言，沒有嚴格意義上的編譯和匯編過程。Pyc文件是py編譯過程中產(chǎn)生的字節(jié)碼文件，可以由虛擬機直接執(zhí)行，是python將目標源碼編譯成字節(jié)碼以后在磁盤上的文件形式。本文就來聊聊pyc文件的寫入等只是，感興趣的可以了解一下2022-12-12