對(duì)Tensorflow中的變量初始化函數(shù)詳解
Tensorflow 提供了7種不同的初始化函數(shù):
tf.constant_initializer(value) #將變量初始化為給定的常量,初始化一切所提供的值。
假設(shè)在卷積層中,設(shè)置偏執(zhí)項(xiàng)b為0,則寫法為: 1. bias_initializer=tf.constant_initializer(0) 2. bias_initializer=tf.zeros_initializer(0)
tf.random_normal_initializer(mean,stddev) #功能是將變量初始化為滿足正太分布的隨機(jī)值,主要參數(shù)(正太分布的均值和標(biāo)準(zhǔn)差),用所給的均值和標(biāo)準(zhǔn)差初始化均勻分布
tf.truncated_normal_initializer(mean,stddev,seed,dtype) #功能:將變量初始化為滿足正太分布的隨機(jī)值,但如果隨機(jī)出來的值偏離平均值超過2個(gè)標(biāo)準(zhǔn)差,那么這個(gè)數(shù)將會(huì)被重新隨機(jī)
mean:用于指定均值;stddev用于指定標(biāo)準(zhǔn)差;seed:用于指定隨機(jī)數(shù)種子;dtype:用于指定隨機(jī)數(shù)的數(shù)據(jù)類型。 通常只需要設(shè)定一個(gè)標(biāo)準(zhǔn)差stddev這一個(gè)參數(shù)就可以。
tf.random_uniform_initializer(a,b,seed,dtype) #從a到b均勻初始化,將變量初始化為滿足平均分布的隨機(jī)值,主要參數(shù)(最大值,最小值)
tf.uniform_unit_scaling_initializer(factor,seed,dtypr) #將變量初始化為滿足平均分布但不影響輸出數(shù)量級(jí)的隨機(jī)值
max_val=math.sqrt(3/input_size)*factor; input_size指輸入數(shù)據(jù)的維數(shù),假設(shè)輸入為x,計(jì)算為x*w,則input_size=w.shape[0]. 其分布區(qū)間為[-max_val,max_val]
tf.zeros_initializer() #將變量設(shè)置為全0;也可以簡(jiǎn)寫為tf.Zeros()
tf.ones_initializer() #將變量設(shè)置為全1;可簡(jiǎn)寫為tf.Ones()
以上這篇對(duì)Tensorflow中的變量初始化函數(shù)詳解就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python自動(dòng)化測(cè)試selenium指定截圖文件名方法
這篇文章主要介紹了Python自動(dòng)化測(cè)試selenium指定截圖文件名方法,Selenium?支持?Web?瀏覽器的自動(dòng)化,它提供一套測(cè)試函數(shù),用于支持?Web?自動(dòng)化測(cè)試,下文基于python實(shí)現(xiàn)指定截圖文件名方法,需要的小伙伴可以參考一下2022-05-05python 基于PYMYSQL使用MYSQL數(shù)據(jù)庫
這篇文章主要介紹了python 基于PYMYSQL使用MYSQL數(shù)據(jù)庫的方法,幫助大家更好的理解和使用python,感興趣的朋友可以了解下2020-12-12python服務(wù)器與android客戶端socket通信實(shí)例
這篇文章主要介紹了python服務(wù)器與android客戶端socket通信的實(shí)現(xiàn)方法,實(shí)例形式詳細(xì)講述了Python的服務(wù)器端實(shí)現(xiàn)原理與方法,以及對(duì)應(yīng)的Android客戶端實(shí)現(xiàn)方法,需要的朋友可以參考下2014-11-11python簡(jiǎn)單實(shí)現(xiàn)刷新智聯(lián)簡(jiǎn)歷
本文給大家分享的是個(gè)人弄的一個(gè)使用Python簡(jiǎn)單實(shí)現(xiàn)刷新智聯(lián)招聘簡(jiǎn)歷的小工具的代碼,非常的簡(jiǎn)單,給大家參考下吧。2016-03-03簡(jiǎn)單實(shí)現(xiàn)python爬蟲功能
這篇文章主要介紹了python實(shí)現(xiàn)簡(jiǎn)單爬蟲功能的相關(guān)資料,感興趣的小伙伴們可以參考一下2015-12-12python django下載大的csv文件實(shí)現(xiàn)方法分析
這篇文章主要介紹了python django下載大的csv文件實(shí)現(xiàn)方法,結(jié)合實(shí)例形式分析了Django框架下載csv大文件的相關(guān)操作技巧與注意事項(xiàng),需要的朋友可以參考下2019-07-07