快捷導航

簡述python&pytorch 隨機種子的實現(xiàn)

更新時間：2020年10月07日 13:52:15 作者：夕夕老師

這篇文章主要介紹了簡述python&pytorch 隨機種子的實現(xiàn)，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧

隨機數(shù)廣泛應(yīng)用在科學研究, 但是計算機無法產(chǎn)生真正的隨機數(shù), 一般成為偽隨機數(shù). 它的產(chǎn)生過程: 給定一個隨機種子(一個正整數(shù)), 根據(jù)隨機算法和種子產(chǎn)生隨機序列. 給定相同的隨機種子, 計算機產(chǎn)生的隨機數(shù)列是一樣的(這也許是偽隨機的原因).

隨機種子是什么？

隨機種子是針對隨機方法而言的。

隨機方法：常見的隨機方法有生成隨機數(shù)，以及其他的像隨機排序之類的，后者本質(zhì)上也是基于生成隨機數(shù)來實現(xiàn)的。在深度學習中，比較常用的隨機方法的應(yīng)用有：網(wǎng)絡(luò)的隨機初始化，訓練集的隨機打亂等。

隨機種子的取值范圍？

可以是任意數(shù)字，如10，1000

python random

下面以python的random函數(shù)為例, 做了一個測試.

在這里插入圖片描述

當用戶未指定隨機種子, 系統(tǒng)默認隨機生成, 一般與系統(tǒng)當前時間有關(guān).用戶指定隨機種子后, 使用隨機函數(shù)產(chǎn)生的隨機數(shù)可以復現(xiàn).種子確定后, 每次使用隨機函數(shù)相當于從隨機序列去獲取隨機數(shù), 每次獲取的隨機數(shù)是不同的.

pytorch

使用pytorch復現(xiàn)效果時, 總是無法做到完全的復現(xiàn). 同一份代碼運行兩次, 有時結(jié)果差異很大. 這是由于算法中的隨機性導致的. 要想每次獲得的結(jié)果一致, 必須固定住隨機種子. 首先, 我們需要找到算法在哪里使用了隨機性, 再相應(yīng)的固定住隨機種子.

def seed_torch():
	seed = 1024 # 用戶設(shè)定
 # seed = int(time.time()*256)
 # 保存隨機種子
 with open('seed.txt', 'w') as f:
  f.write(str(seed))
 random.seed(seed)
 os.environ['PYTHONHASHSEED'] = str(seed)
 np.random.seed(seed)
 torch.manual_seed(seed)
 torch.cuda.manual_seed(seed)
 torch.cuda.manual_seed_all(seed)
 torch.backends.cudnn.benchmark = False
 torch.backends.cudnn.deterministic = True
seed_torch()

上面的代碼固定了pytorch常用的隨機種子, 但是如果你在預處理中涉及了隨機性, 也需要固定住.

為了復現(xiàn)結(jié)果, 我們固定住了隨機種子. 但pytorch訓練模型時, 不同的隨機種子會產(chǎn)生不同的結(jié)果. 每次使用固定的隨機種子, 可能錯失好的結(jié)果. 為此, 我們可以每次使用不一樣的隨機種子, 并保存下來

到此這篇關(guān)于簡述python&pytorch 隨機種子的實現(xiàn)的文章就介紹到這了,更多相關(guān)pytorch 隨機種子內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: