欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

TensorFlow源代碼構(gòu)建流程記錄解析

 更新時(shí)間：2023年01月03日 14:17:46   作者：曹雨晨  
這篇文章主要為大家介紹了TensorFlow源代碼構(gòu)建流程記錄解析，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪

為什么從源代碼構(gòu)建

通常情況下，直接安裝構(gòu)建好的.whl即可。不過，當(dāng)需要一些特殊配置（或者閑來無事想體會(huì) TensorFlow 構(gòu)建過程到底有多麻煩）的時(shí)候，則需要選擇從源代碼構(gòu)建TensorFlow。萬幸文檔混亂的 TensorFlow 還是好心地為我們提供了一整頁的文檔供參考 www.tensorflow.org/install/sou… ，個(gè)人認(rèn)為其中最需要關(guān)注的部分莫過于經(jīng)過測試供參考的源配置（列于文末）。TF使用 Google 的開源構(gòu)建工具 bazel 構(gòu)建，并且源碼的版本與 bazel 的版本高度相關(guān)，所以盡量匹配版本進(jìn)行構(gòu)建。

流程記錄 TF v1.14.0 CPU on Ubuntu 18.04

安裝對(duì)應(yīng)版本的 bazel

根據(jù)計(jì)劃構(gòu)建的版本，查閱文末的對(duì)應(yīng)配置，參考官方文檔： bazel.build/install/ubu… 安裝相應(yīng)版本的 bazel，如本次計(jì)劃構(gòu)建的版本是 v1.14.0，對(duì)應(yīng)的 bazel 版本是 0.24.1(此次使用0.26.1也是可以的)。

為方便，這里直接貼出對(duì)應(yīng) 0.26.1 release 的頁面： github.com/bazelbuild/… ，點(diǎn)擊assets找到對(duì)應(yīng)的文件下載即可。

wget https://github.com/bazelbuild/bazel/releases/download/0.26.1/bazel-0.26.1-installer-linux-x86_64.sh
chmod +x bazel-version-installer-linux-x86_64.sh
./bazel-version-installer-linux-x86_64.sh --user

克隆 TensorFlow 倉庫

從 Github 上 clone 源碼倉庫

git clone https://github.com/tensorflow/tensorflow

cd 到倉庫目錄并 git checkout到相應(yīng) tag，比如這次是構(gòu)建 v1.14.0 版本：

git checkout v1.14.0

* 一些小調(diào)整，通常可以略過

Build with C++17

因?yàn)橹笮枰獙懙?Custom OP 依賴的另一個(gè)庫是 C++17，而除了剛剛才發(fā)布的 v2.10 版，以前的 TF默認(rèn)是使用 C++11，實(shí)際構(gòu)建的時(shí)候，代碼有一些 minor fix。此處參考 github.com/tensorflow/… 修改 .bazelrc 里 build:c++17 的配置，在 tensorflow/core/lib/gif/gif_io.cc 中添加 #include<cstring>, 并在 tensorflow/stream_executor/stream_executor_pimpl.h 中添加 #include "absl/memory/memory.h"（否則 compile 時(shí)會(huì)報(bào)錯(cuò)找不到 absl::make_unique）（這里 make_unique 是 C++17 標(biāo)準(zhǔn)庫里的用法，Google的abseil的make_unique方法則方便C++11的代碼也可以使用它；最新的v2.10版由于默認(rèn)使用C++17，已經(jīng)改為std::make_unique）

.bazelrc 文件里記錄了構(gòu)建時(shí)各種配置選項(xiàng) （[--config=option]）的映射規(guī)則，如有需要可以進(jìn)行修改。由于 GCC 不支持--stdlib命令，此次修改如下：

  # Build TF with C++ 17 features.
- build:c++17 --cxxopt=-std=c++1z
- build:c++17 --cxxopt=-stdlib=libc++
+ build:c++17 --cxxopt=-std=c++17

網(wǎng)絡(luò)不通

Bazel 在構(gòu)建過程中，需要現(xiàn)拉取遠(yuǎn)程倉庫的許多依賴。由于 TF 的構(gòu)建過程消耗內(nèi)存很嚴(yán)重，選擇在服務(wù)器上進(jìn)行構(gòu)建，而服務(wù)器遠(yuǎn)程拉取 github 上倉庫經(jīng)常失敗。所以需要手動(dòng)在網(wǎng)絡(luò)良好的機(jī)器上下載相應(yīng)的庫的 release （對(duì)應(yīng)的版本在 WORKSPACE 文件中可以找到一行注釋），存放在服務(wù)器本地，并在 WORKSPACE 文件中對(duì)應(yīng)的 http_archive 部分添加一行本地地址。若需要換版本，也可以在相應(yīng)github庫的releases下面找到對(duì)應(yīng)的 URL 及 sha256（實(shí)在是找不到對(duì)應(yīng)的也可以手動(dòng)下載壓縮包后通過 shasum256 命令獲?。?/p>

例如：

http_archive(
 name = "build_bazel_rules_apple",
 sha256 = "a045a436b642c70fb0c10ca84ff0fd2dcbd59cc89100d597a61e8374afafb366",
 urls = ["https://github.com/bazelbuild/rules_apple/releases/download/0.18.0/rules_apple.0.18.0.tar.gz",
         "file:///opt/tensorflow_build_deps/rules_apple.0.18.0.tar.gz"],
) # https://github.com/bazelbuild/rules_apple/releases

配置 build

運(yùn)行源碼根目錄下的 ./configure 進(jìn)行配置。

./configure

此次編譯一個(gè)盡量簡略的 CPU 版本，會(huì)話如下：

WARNING: --batch mode is deprecated. Please instead explicitly shut down your Bazel server using the command "bazel shutdown".
You have bazel 0.26.1 installed.
Please specify the location of python. [Default is /usr/local/bin/python]:
Found possible Python library paths:
  /usr/local/lib/python3.6/dist-packages
  /usr/lib/python3/dist-packages
Please input the desired Python library path to use.  Default is [/usr/local/lib/python3.6/dist-packages]
Do you wish to build TensorFlow with XLA JIT support? [Y/n]: n
No XLA JIT support will be enabled for TensorFlow.
Do you wish to build TensorFlow with OpenCL SYCL support? [y/N]: n
No OpenCL SYCL support will be enabled for TensorFlow.
Do you wish to build TensorFlow with ROCm support? [y/N]: n
No ROCm support will be enabled for TensorFlow.
Do you wish to build TensorFlow with CUDA support? [y/N]: n
No CUDA support will be enabled for TensorFlow.
Do you wish to download a fresh release of clang? (Experimental) [y/N]: n
Clang will not be downloaded.
Please specify optimization flags to use during compilation when bazel option "--config=opt" is specified [Default is -march=native -Wno-sign-compare]:
Would you like to interactively configure ./WORKSPACE for Android builds? [y/N]: n
Not configuring the WORKSPACE for Android builds.
Preconfigured Bazel build configs. You can use any of the below by adding "--config=<>" to your build command. See .bazelrc for more details.
    --config=mkl            # Build with MKL support.
    --config=monolithic     # Config for mostly static monolithic build.
    --config=ngraph         # Build with Intel nGraph support.
    --config=numa           # Build with NUMA support.
    --config=dynamic_kernels    # (Experimental) Build kernels into separate shared objects.
    --config=v2             # Build TensorFlow 2.x instead of 1.x.
Preconfigured Bazel build configs to DISABLE default on features:
    --config=noaws          # Disable AWS S3 filesystem support.
    --config=nogcp          # Disable GCP support.
    --config=nohdfs         # Disable HDFS support.
    --config=nonccl         # Disable NVIDIA NCCL support.
Configuration finished

構(gòu)建 pip 軟件包并安裝

官方提供的命令：

bazel build [--config=option] //tensorflow/tools/pip_package:build_pip_package

本次使用：

bazel build --config=c++17 --config=c++1z --jobs=6 //tensorflow/tools/pip_package:build_pip_package

其中使用的 --config=c++17 --config=c++1z 對(duì)應(yīng)剛剛修改的 .bazelrc 文件中相應(yīng)的部分

注意：bazel build 的過程時(shí)間會(huì)比較長，對(duì)內(nèi)存的消耗較大，jobs 數(shù)謹(jǐn)慎開大。

bazel build 結(jié)束后，一個(gè)名為 build_pip_package 的可執(zhí)行文件就創(chuàng)建好了，接下來可以執(zhí)行：

./bazel-bin/tensorflow/tools/pip_package/build_pip_package /tmp/tensorflow_pkg

如果希望構(gòu)建的whl名為 tf-nightly 版本，則可以加上 --nightly_flag 的選項(xiàng)。

./bazel-bin/tensorflow/tools/pip_package/build_pip_package --nightly_flag /tmp/tensorflow_pkg

此后便獲得了 .whl 文件，通過 pip 安裝即可：

pip install /tmp/tensorflow_pkg/tensorflow-[version]-[tags].whl

其中，version是對(duì)應(yīng)的版本，tags與系統(tǒng)有關(guān)。

經(jīng)過測試的源配置

Linux

CPU

版本Python 版本編譯器構(gòu)建工具
tensorflow-2.6.03.6-3.9GCC 7.3.1Bazel 3.7.2
tensorflow-2.5.03.6-3.9GCC 7.3.1Bazel 3.7.2
tensorflow-2.4.03.6-3.8GCC 7.3.1Bazel 3.1.0
tensorflow-2.3.03.5-3.8GCC 7.3.1Bazel 3.1.0
tensorflow-2.2.03.5-3.8GCC 7.3.1Bazel 2.0.0
tensorflow-2.1.02.7、3.5-3.7GCC 7.3.1Bazel 0.27.1
tensorflow-2.0.02.7、3.3-3.7GCC 7.3.1Bazel 0.26.1
tensorflow-1.15.02.7、3.3-3.7GCC 7.3.1Bazel 0.26.1
tensorflow-1.14.02.7、3.3-3.7GCC 4.8Bazel 0.24.1
tensorflow-1.13.12.7、3.3-3.7GCC 4.8Bazel 0.19.2
tensorflow-1.12.02.7、3.3-3.6GCC 4.8Bazel 0.15.0
tensorflow-1.11.02.7、3.3-3.6GCC 4.8Bazel 0.15.0
tensorflow-1.10.02.7、3.3-3.6GCC 4.8Bazel 0.15.0
tensorflow-1.9.02.7、3.3-3.6GCC 4.8Bazel 0.11.0
tensorflow-1.8.02.7、3.3-3.6GCC 4.8Bazel 0.10.0
tensorflow-1.7.02.7、3.3-3.6GCC 4.8Bazel 0.10.0
tensorflow-1.6.02.7、3.3-3.6GCC 4.8Bazel 0.9.0
tensorflow-1.5.02.7、3.3-3.6GCC 4.8Bazel 0.8.0
tensorflow-1.4.02.7、3.3-3.6GCC 4.8Bazel 0.5.4
tensorflow-1.3.02.7、3.3-3.6GCC 4.8Bazel 0.4.5
tensorflow-1.2.02.7、3.3-3.6GCC 4.8Bazel 0.4.5
tensorflow-1.1.02.7、3.3-3.6GCC 4.8Bazel 0.4.2
tensorflow-1.0.02.7、3.3-3.6GCC 4.8Bazel 0.4.2

GPU

版本Python 版本編譯器構(gòu)建工具cuDNNCUDA
tensorflow-2.6.03.6-3.9GCC 7.3.1Bazel 3.7.28.111.2
tensorflow-2.5.03.6-3.9GCC 7.3.1Bazel 3.7.28.111.2
tensorflow-2.4.03.6-3.8GCC 7.3.1Bazel 3.1.08.011.0
tensorflow-2.3.03.5-3.8GCC 7.3.1Bazel 3.1.07.610.1
tensorflow-2.2.03.5-3.8GCC 7.3.1Bazel 2.0.07.610.1
tensorflow-2.1.02.7、3.5-3.7GCC 7.3.1Bazel 0.27.17.610.1
tensorflow-2.0.02.7、3.3-3.7GCC 7.3.1Bazel 0.26.17.410.0
tensorflow_gpu-1.15.02.7、3.3-3.7GCC 7.3.1Bazel 0.26.17.410.0
tensorflow_gpu-1.14.02.7、3.3-3.7GCC 4.8Bazel 0.24.17.410.0
tensorflow_gpu-1.13.12.7、3.3-3.7GCC 4.8Bazel 0.19.27.410.0
tensorflow_gpu-1.12.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
tensorflow_gpu-1.11.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
tensorflow_gpu-1.10.02.7、3.3-3.6GCC 4.8Bazel 0.15.079
tensorflow_gpu-1.9.02.7、3.3-3.6GCC 4.8Bazel 0.11.079
tensorflow_gpu-1.8.02.7、3.3-3.6GCC 4.8Bazel 0.10.079
tensorflow_gpu-1.7.02.7、3.3-3.6GCC 4.8Bazel 0.9.079
tensorflow_gpu-1.6.02.7、3.3-3.6GCC 4.8Bazel 0.9.079
tensorflow_gpu-1.5.02.7、3.3-3.6GCC 4.8Bazel 0.8.079
tensorflow_gpu-1.4.02.7、3.3-3.6GCC 4.8Bazel 0.5.468
tensorflow_gpu-1.3.02.7、3.3-3.6GCC 4.8Bazel 0.4.568
tensorflow_gpu-1.2.02.7、3.3-3.6GCC 4.8Bazel 0.4.55.18
tensorflow_gpu-1.1.02.7、3.3-3.6GCC 4.8Bazel 0.4.25.18
tensorflow_gpu-1.0.02.7、3.3-3.6GCC 4.8Bazel 0.4.25.18

macOS

CPU

版本Python 版本編譯器構(gòu)建工具
tensorflow-2.6.03.6-3.9Xcode 10.11 中的 ClangBazel 3.7.2
tensorflow-2.5.03.6-3.9Xcode 10.11 中的 ClangBazel 3.7.2
tensorflow-2.4.03.6-3.8Xcode 10.3 中的 ClangBazel 3.1.0
tensorflow-2.3.03.5-3.8Xcode 10.1 中的 ClangBazel 3.1.0
tensorflow-2.2.03.5-3.8Xcode 10.1 中的 ClangBazel 2.0.0
tensorflow-2.1.02.7、3.5-3.7Xcode 10.1 中的 ClangBazel 0.27.1
tensorflow-2.0.02.7、3.5-3.7Xcode 10.1 中的 ClangBazel 0.27.1
tensorflow-2.0.02.7、3.3-3.7Xcode 10.1 中的 ClangBazel 0.26.1
tensorflow-1.15.02.7、3.3-3.7Xcode 10.1 中的 ClangBazel 0.26.1
tensorflow-1.14.02.7、3.3-3.7Xcode 中的 ClangBazel 0.24.1
tensorflow-1.13.12.7、3.3-3.7Xcode 中的 ClangBazel 0.19.2
tensorflow-1.12.02.7、3.3-3.6Xcode 中的 ClangBazel 0.15.0
tensorflow-1.11.02.7、3.3-3.6Xcode 中的 ClangBazel 0.15.0
tensorflow-1.10.02.7、3.3-3.6Xcode 中的 ClangBazel 0.15.0
tensorflow-1.9.02.7、3.3-3.6Xcode 中的 ClangBazel 0.11.0
tensorflow-1.8.02.7、3.3-3.6Xcode 中的 ClangBazel 0.10.1
tensorflow-1.7.02.7、3.3-3.6Xcode 中的 ClangBazel 0.10.1
tensorflow-1.6.02.7、3.3-3.6Xcode 中的 ClangBazel 0.8.1
tensorflow-1.5.02.7、3.3-3.6Xcode 中的 ClangBazel 0.8.1
tensorflow-1.4.02.7、3.3-3.6Xcode 中的 ClangBazel 0.5.4
tensorflow-1.3.02.7、3.3-3.6Xcode 中的 ClangBazel 0.4.5
tensorflow-1.2.02.7、3.3-3.6Xcode 中的 ClangBazel 0.4.5
tensorflow-1.1.02.7、3.3-3.6Xcode 中的 ClangBazel 0.4.2
tensorflow-1.0.02.7、3.3-3.6Xcode 中的 ClangBazel 0.4.2

GPU

版本Python 版本編譯器構(gòu)建工具cuDNNCUDA
tensorflow_gpu-1.1.02.7、3.3-3.6Xcode 中的 ClangBazel 0.4.25.18
tensorflow_gpu-1.0.02.7、3.3-3.6Xcode 中的 ClangBazel 0.4.25.18

以上就是TensorFlow源代碼構(gòu)建流程記錄解析的詳細(xì)內(nèi)容，更多關(guān)于TensorFlow源代碼構(gòu)建流程的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

相關(guān)文章

  • 單線程會(huì)導(dǎo)致死鎖你知道嗎

    單線程會(huì)導(dǎo)致死鎖你知道嗎

    這篇文章主要為大家詳細(xì)介紹了單線程會(huì)不會(huì)導(dǎo)致死鎖，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助
    2022-02-02
  • 淺談C++左值引用和右值引用

    淺談C++左值引用和右值引用

    這篇文章主要介紹了C++左值引用和右值引用，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2019-04-04
  • opencv實(shí)現(xiàn)機(jī)器視覺檢測和計(jì)數(shù)的方法

    opencv實(shí)現(xiàn)機(jī)器視覺檢測和計(jì)數(shù)的方法

    在機(jī)器視覺中，有時(shí)需要對(duì)產(chǎn)品進(jìn)行檢測和計(jì)數(shù)。其難點(diǎn)無非是對(duì)于產(chǎn)品的圖像分割。本文就來介紹一下機(jī)器視覺檢測和計(jì)數(shù)的實(shí)現(xiàn)，感興趣的可以參考一下
    2021-05-05
  • opencv3/C++實(shí)現(xiàn)霍夫圓/直線檢測

    opencv3/C++實(shí)現(xiàn)霍夫圓/直線檢測

    今天小編就為大家分享一篇opencv3/C++實(shí)現(xiàn)霍夫圓/直線檢測，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2019-12-12
  • C語言預(yù)處理器使用方法講解

    C語言預(yù)處理器使用方法講解

    C預(yù)處理器不是編譯器的組成部分，但是它是編譯過程中一個(gè)單獨(dú)的步驟。簡言之，C預(yù)處理器只不過是一個(gè)文本替換工具而已，它們會(huì)指示編譯器在實(shí)際編譯之前完成所需的預(yù)處理。我們將把C預(yù)處理器（C Preprocessor）簡寫為CPP
    2022-12-12
  • C/C++實(shí)現(xiàn)手寫數(shù)字識(shí)別的示例詳解

    C/C++實(shí)現(xiàn)手寫數(shù)字識(shí)別的示例詳解

    這篇文章主要為大家詳細(xì)介紹了如何使用C/C++實(shí)現(xiàn)手寫數(shù)字識(shí)別,分別處理 32*32 文本數(shù)據(jù)集和mnist 28*28 png數(shù)據(jù)集,感興趣的小伙伴可以跟隨小編一起了解一下
    2023-10-10
  • C++實(shí)現(xiàn)井字棋游戲

    C++實(shí)現(xiàn)井字棋游戲

    這篇文章主要為大家詳細(xì)介紹了C++實(shí)現(xiàn)井字棋游戲，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下
    2020-07-07
  • C++中constexpr與模板元編程的基礎(chǔ)、常見問題、易錯(cuò)點(diǎn)及其規(guī)避策略

    C++中constexpr與模板元編程的基礎(chǔ)、常見問題、易錯(cuò)點(diǎn)及其規(guī)避策略

    C++編譯時(shí)計(jì)算允許程序在編譯階段完成計(jì)算任務(wù),constexpr與模板元編程是C編譯時(shí)計(jì)算的兩把利劍,它們不僅能夠提升程序的性能,還能增強(qiáng)代碼的健壯性和可維護(hù)性,通過避開本文闡述的易錯(cuò)點(diǎn),開發(fā)者可以更加得心應(yīng)手地運(yùn)用這些特性,編寫出既高效又優(yōu)雅的C代碼
    2024-06-06
  • Linux配置C++11編譯環(huán)境的方法

    Linux配置C++11編譯環(huán)境的方法

    這篇文章主要介紹了Linux配置C++11編譯環(huán)境,本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下
    2020-10-10
  • C++表達(dá)式new與delete知識(shí)詳解

    C++表達(dá)式new與delete知識(shí)詳解

    這篇文章主要為大家詳細(xì)介紹了C++表達(dá)式new與delete知識(shí)點(diǎn)，學(xué)習(xí)如何動(dòng)態(tài)創(chuàng)建對(duì)象，動(dòng)態(tài)創(chuàng)建的對(duì)象與一般對(duì)象的區(qū)別，動(dòng)態(tài)創(chuàng)建的對(duì)象的初始化以及釋放動(dòng)態(tài)分配的內(nèi)存等知識(shí)點(diǎn)，感興趣的朋友可以參考一下
    2016-05-05

最新評(píng)論