Python 寫入訓練日志文件并控制臺輸出解析
1. 背景
在深度學習的任務中,通常需要比較長時間的訓練,因此我們會選擇離開電腦。筆者在跟蹤模型表現(xiàn),
觀察模型accuracy 以及 loss 的時候,比較傳統(tǒng)的方法是在控制臺print輸出或者直接使用tensorboard。
但如果是你需要遠程觀察模型表現(xiàn),那一個時刻記錄的log 文件就非常重要。
(如果你希望不在實驗室,遠程通過訪問正在訓練網(wǎng)絡的服務器的Jupyter Notebook ,實時查看實驗進度。請參考——遠程連接服務器端Jupyter Notebook)
2. logging 函數(shù)
創(chuàng)建 .log 文件并將一些數(shù)據(jù)在控制臺輸出可以通過logging 函數(shù)實現(xiàn)。
廢話不多,直接貼代碼:一下函數(shù)可以在你想要保存日志文件的路徑——output_dir下生成一個.log 文件,文件名以年.月.日.時.分命名,以免重復。
import logging
import time
import os
def log_creater(output_dir):
if not os.path.exists(output_dir):
os.makedirs(output_dir)
log_name = '{}.log'.format(time.strftime('%Y-%m-%d-%H-%M'))
final_log_file = os.path.join(output_dir,log_name)
# creat a log
log = logging.getLogger('train_log')
log.setLevel(logging.DEBUG)
# FileHandler
file = logging.FileHandler(final_log_file)
file.setLevel(logging.DEBUG)
# StreamHandler
stream = logging.StreamHandler()
stream.setLevel(logging.DEBUG)
# Formatter
formatter = logging.Formatter(
'[%(asctime)s][line: %(lineno)d] ==> %(message)s')
# setFormatter
file.setFormatter(formatter)
stream.setFormatter(formatter)
# addHandler
log.addHandler(file)
log.addHandler(stream)
log.info('creating {}'.format(final_log_file))
return log
3. 結(jié)果
保存后的日志文件差不多就是這樣:

以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
pytorch中的hook機制register_forward_hook
這篇文章主要介紹了pytorch中的hook機制register_forward_hook,手動在forward之前注冊hook,hook在forward執(zhí)行以后被自動執(zhí)行,下面詳細的內(nèi)容介紹,需要的小伙伴可以參考一下2022-03-03
python調(diào)用cmd命令時遇到的路徑空格問題和中文亂碼的解決
這篇文章主要介紹了python調(diào)用cmd命令時遇到的路徑空格問題和中文亂碼的解決方案,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-02-02
Python爬蟲庫BeautifulSoup獲取對象(標簽)名,屬性,內(nèi)容,注釋
如何利用Python爬蟲庫BeautifulSoup獲取對象(標簽)名,屬性,內(nèi)容,注釋等操作下面就為大家介紹一下2020-01-01

