淺談多卡服務(wù)器下隱藏部分 GPU 和 TensorFlow 的顯存使用設(shè)置
服務(wù)器有多張顯卡,一般是組里共用,分配好顯卡和任務(wù)就體現(xiàn)公德了。除了在代碼中指定使用的 GPU 編號(hào),還可以直接設(shè)置可見(jiàn) GPU 編號(hào),使程序/用戶只對(duì)部分 GPU 可見(jiàn)。
操作很簡(jiǎn)單,使用環(huán)境變量 CUDA_VISIBLE_DEVICES 即可。
具體來(lái)說(shuō),如果使用單卡運(yùn)行 Python 腳本,則可輸入
CUDA_VISIBLE_DEVICES=1 python my_script.py
腳本將只使用 GPU1。
在 .py 腳本和 Notebook 中設(shè)置,則
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
還可以直接設(shè)置臨時(shí)的環(huán)境變量:
export CUDA_VISIBLE_DEVICES="0"
此時(shí)該用戶的 CUDA 只看得見(jiàn) GPU0。
至于顯存設(shè)置,可以設(shè)置使用比例(70%):
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
也可以按需增長(zhǎng):
config = tf.ConfigProto() config.gpu_options.allow_growth = True session = tf.Session(config=config, ...)
如果是 Keras 使用 TensorFlow 后端,則可通過(guò)如
import tensorflow as tf from keras.backend.tensorflow_backend import set_session config = tf.ConfigProto() config.gpu_options.allow_growth = True set_session(tf.Session(config=config))
更改使用設(shè)置。
以上這篇淺談多卡服務(wù)器下隱藏部分 GPU 和 TensorFlow 的顯存使用設(shè)置就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
python如何利用matplotlib繪制并列雙柱狀圖并標(biāo)注數(shù)值
Python之中最好的圖表庫(kù)叫matplotlib,matplotlib,顧名思義就是提供了一整套和matlab相似的API,它的文檔相當(dāng)完備,下面這篇文章主要給大家介紹了關(guān)于python如何利用matplotlib繪制并列雙柱狀圖并標(biāo)注數(shù)值的相關(guān)資料,需要的朋友可以參考下2022-04-04在Python上基于Markov鏈生成偽隨機(jī)文本的教程
這篇文章主要介紹了在Python上基于Markov鏈生成偽隨機(jī)文本的教程,是一個(gè)基于馬爾可夫算法的小實(shí)現(xiàn),充分體現(xiàn)了Python在科學(xué)計(jì)算中的用途,需要的朋友可以參考下2015-04-04PyTorch清理CPU緩存的實(shí)現(xiàn)步驟
在使用PyTorch進(jìn)行深度學(xué)習(xí)時(shí),頻繁的數(shù)據(jù)和計(jì)算可能導(dǎo)致CPU緩存滿載,影響性能和內(nèi)存使用,適時(shí)清理CPU緩存有助于管理內(nèi)存占用,下面就來(lái)介紹一下如何使用2024-09-09Python?PEP8?代碼規(guī)范常見(jiàn)問(wèn)題及解決方法
最近換成?PyCharm?寫(xiě)代碼總是會(huì)出現(xiàn)波浪號(hào),這才了解到?Python?的?PEP8?代碼規(guī)范,所以將常見(jiàn)的?PEP8?代碼規(guī)范問(wèn)題和解決方法記錄一下,養(yǎng)成良好的習(xí)慣,編寫(xiě)規(guī)范的代碼2023-09-09深度剖析使用python抓取網(wǎng)頁(yè)正文的源碼
平時(shí)打開(kāi)一個(gè)網(wǎng)頁(yè),除了文章的正文內(nèi)容,通常會(huì)有一大堆的導(dǎo)航,廣告和其他方面的信息。本文的目的,在于說(shuō)明如何從一個(gè)網(wǎng)頁(yè)中提取出文章的正文內(nèi)容,而過(guò)渡掉其他無(wú)關(guān)的的信息。2014-06-06Python使用pyodbc訪問(wèn)數(shù)據(jù)庫(kù)操作方法詳解
這篇文章主要介紹了Python使用pyodbc訪問(wèn)數(shù)據(jù)庫(kù)操作方法,結(jié)合實(shí)例形式詳細(xì)分析了Python基于pyodbc針對(duì)數(shù)據(jù)庫(kù)的連接、查詢、插入、修改、刪除等操作技巧與注意事項(xiàng),需要的朋友可以參考下2018-07-07Python全棧之進(jìn)程和守護(hù)進(jìn)程
這篇文章主要為大家介紹了Python進(jìn)程和守護(hù)進(jìn)程,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下,希望能夠給你帶來(lái)幫助2021-12-12Django實(shí)現(xiàn)列表頁(yè)商品數(shù)據(jù)返回教程
這篇文章主要介紹了Django實(shí)現(xiàn)列表頁(yè)商品數(shù)據(jù)返回教程,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-04-04