設(shè)輸入是a,通過了softmax輸出的是p 注意:當(dāng)i=j時,偏導(dǎo)是正的,i != j時,偏導(dǎo)是負的。 通過PyTorch實現(xiàn)方式如下: 三、鏈式法則 1.單層感知機梯度 單層感知機其實就是只有一個節(jié)點,數(shù)據(jù)*權(quán)重,輸入這個節(jié)點,經(jīng)過sigmoid函數(shù)轉(zhuǎn)換,得到輸出值。根據(jù)鏈式法則可以求得梯度。
www.dbjr.com.cn/article/2289...htm 2025-5-25