生成式 AI 正在席卷全球。從智能手機(jī)到電腦，乃至未來的各種數(shù)字設(shè)備，AI 幾乎無處不在。AI 的廣泛應(yīng)用需要強(qiáng)大的算力，而傳統(tǒng)的 CPU 和 GPU 已經(jīng)越來越難以勝任。于是，NPU（神經(jīng)處理單元）應(yīng)運(yùn)而生。

現(xiàn)在，像三星 Galaxy S22、S23 和 S24 等旗艦智能手機(jī)已經(jīng)開始搭載 NPU。不過，NPU 要在個(gè)人電腦中普及還需要一些時(shí)間。Intel 和 AMD 等芯片巨頭已經(jīng)開始推出集成 NPU 的處理器，如 Intel 的 Meteor Lake、Core 和 Core Ultra 系列，以及 AMD 的 Ryzen 8040 系列等。

那么，NPU 到底是什么？我們真的需要 NPU 嗎？本文將為你詳細(xì)解讀 NPU 技術(shù)，幫助你了解它的定義和用途等。

NPU 是什么？

NPU 神經(jīng)處理單元

簡單來說，NPU 是一種專門用于處理機(jī)器學(xué)習(xí)算法的處理器。它能夠比傳統(tǒng) CPU 和 GPU 更快地執(zhí)行復(fù)雜的數(shù)學(xué)運(yùn)算，這對(duì)于高效運(yùn)行神經(jīng)網(wǎng)絡(luò)至關(guān)重要。

NPU 主要用于處理涉及大量小規(guī)模并行計(jì)算的 AI 任務(wù)。它在處理圖片、視頻等多媒體數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)時(shí)表現(xiàn)出色，因?yàn)檫@些處理器天生就是為了并行計(jì)算而設(shè)計(jì)的。

雖然 CPU 和 GPU 也能處理機(jī)器學(xué)習(xí)任務(wù)，但效率遠(yuǎn)不如 NPU。此外，在設(shè)備中集成 NPU 可以大大減輕 CPU 和 GPU 的負(fù)擔(dān)，讓它們能夠更專注地執(zhí)行其他任務(wù)。

NPU 在功能和外觀上與特定應(yīng)用集成電路（ASIC）類似，但兩者并不相同。NPU 設(shè)計(jì)更為復(fù)雜和多功能，可以滿足各種神經(jīng)網(wǎng)絡(luò)計(jì)算需求；而 ASIC 通常只針對(duì)單一用途（如加密貨幣挖礦）。NPU 的強(qiáng)大能力來自于專門為神經(jīng)網(wǎng)絡(luò)計(jì)算而設(shè)計(jì)的硬件、軟件、編程和驅(qū)動(dòng)。

值得一提的是，Google 也推出了自家的 AI 處理器，稱為 TPU（張量處理單元）。雖然 TPU 的架構(gòu)與 NPU 不同，但同樣專注于處理復(fù)雜的 AI 算法。

NPU、CPU 和 GPU 有什么不同?

在 AI 計(jì)算中，需要執(zhí)行大量的「乘加運(yùn)算」（Multiply Accumulate, MAC）。大多數(shù) AI 算法都是由許多這樣的運(yùn)算構(gòu)成，它們?cè)诖髷?shù)據(jù)集上往往形成樹狀結(jié)構(gòu)，更適合分批處理較小的計(jì)算任務(wù)。這正是 NPU 的強(qiáng)項(xiàng)。

• CPU 則是執(zhí)行多種任務(wù)的系統(tǒng)核心。
• GPU 則主要用于并行處理大型數(shù)據(jù)集，如圖像和視頻處理。
• 相比之下，NPU 設(shè)計(jì)之初就是為了快速完成較小的計(jì)算任務(wù)。專門用于加速深度學(xué)習(xí)算法，因此在處理 AI 相關(guān)任務(wù)時(shí)，性能遠(yuǎn)超 CPU 和 GPU。

雖然 GPU 和 CPU 也能執(zhí)行 AI 計(jì)算，但 NPU 能將這些計(jì)算分解成更小的部分，從而實(shí)現(xiàn)更快速的處理。

推薦閱讀：NPU 與 GPU 有什么區(qū)別？

NPU 與 TPU

Google Cloud TPU

Google 開發(fā)的 TPU 同樣專注于處理神經(jīng)網(wǎng)絡(luò)，與 NPU 功能相似。但它們?cè)诩軜?gòu)上有顯著的不同。

與采用傳統(tǒng)馮·諾依曼架構(gòu)（將內(nèi)存和處理單元分離）的 NPU 不同，TPU 采用了一種名為脈動(dòng)陣列（Systolic Array）的特殊設(shè)計(jì)，將運(yùn)算處理和內(nèi)存單元合并在一個(gè)芯片上。因此，TPU 在進(jìn)行并行計(jì)算時(shí)，能比 NPU 更快、更高效。

目前，TPU 只在 Google 的 Pixel 手機(jī)和 Google Cloud 云平臺(tái)上提供，隨著版本迭代，每一代的性能都會(huì)有所提升。

雖然 NPU 在峰值性能上要優(yōu)于 TPU，但它們的能耗和延遲也更高；相比之下，TPU 的峰值性能稍低，但能耗更低，延遲也較小。

什么是 GPNPU？

GPNPU 并不是 GPU + NPU 的結(jié)合體，而是代表「通用神經(jīng)處理單元」(General Purpose Neural Processing Units)。

GPNPU 采用了統(tǒng)一處理器架構(gòu)的單一執(zhí)行管道，能夠處理向量和矩陣運(yùn)算，以及標(biāo)量（控制）代碼。由于整個(gè)設(shè)計(jì)只有一個(gè)由軟件控制的核心，因此可以更輕松地處理復(fù)雜的并行工作負(fù)載。

NPU 是未來趨勢嗎？

AI 正在逐漸成為主流技術(shù)。就以 Windows 11 為例，幾乎每個(gè)月都會(huì)推出新的 AI 功能。最近，微軟在「照片」應(yīng)用中添加了「生成式擦除」這一 AI 功能。此前，還推出了包括 Copilot 在內(nèi)的多項(xiàng) AI 功能。此外，越來越多的應(yīng)用和服務(wù)也開始整合 AI 技術(shù)。因此可以預(yù)見，AI 將很快滲透到我們生活的方方面面。

對(duì)于深度 AI 用戶來說，NPU 是一種非常有價(jià)值的硬件投資。如前所述，NPU 能顯著提升設(shè)備的處理能力。基于現(xiàn)有趨勢，NPU 將被廣泛應(yīng)用于日常使用的現(xiàn)代設(shè)備當(dāng)中，未來甚至可能成為物聯(lián)網(wǎng)（IoT）設(shè)備的標(biāo)配。

我需要 NPU 嗎？

目前市場上的大多數(shù) AI 服務(wù)，如 OpenAI 的 ChatGPT 語言模型，都在云端進(jìn)行計(jì)算。那為什么還需要本地 NPU 呢？

• 使用本地 NPU 的一個(gè)主要優(yōu)勢是可以顯著減少數(shù)據(jù)在 Intelnet 和本地之間返回的延遲。因此，如果你的工作高度依賴 AI，那么擁有專屬的 NPU 將大大提高處理速度。
• 此外，NPU 還可以減輕 CPU 和 GPU 的負(fù)擔(dān)，讓它們可以空出資源來處理其他重要任務(wù)。如果你的系統(tǒng)搭載了 NPU，你就能將 CPU 和 GPU 留給其他需要大量硬件資源的任務(wù)。
• 最后，如果你是 Windows 11 用戶，很多 24H2 及更高版本中的 AI 功能都需要滿足 AI PC 或 Copilot+ PC 條件的設(shè)備才能使用，例如 Windows Recall 和 Windows Studio Effects 等。

綜上所述，如果你頻繁進(jìn)行以 AI 為核心的計(jì)算任務(wù)，那么擁有 NPU 將非常有價(jià)值。

推薦閱讀：3 招快速識(shí)別你的 Windows 11 電腦是否搭載了 NPU

最新評(píng)論