生成式 AI 正在席卷全球。從智能手機到電腦，乃至未來的各種數(shù)字設(shè)備，AI 幾乎無處不在。AI 的廣泛應(yīng)用需要強大的算力，而傳統(tǒng)的 CPU 和 GPU 已經(jīng)越來越難以勝任。于是，NPU（神經(jīng)處理單元）應(yīng)運而生。

現(xiàn)在，像三星 Galaxy S22、S23 和 S24 等旗艦智能手機已經(jīng)開始搭載 NPU。不過，NPU 要在個人電腦中普及還需要一些時間。Intel 和 AMD 等芯片巨頭已經(jīng)開始推出集成 NPU 的處理器，如 Intel 的 Meteor Lake、Core 和 Core Ultra 系列，以及 AMD 的 Ryzen 8040 系列等。

那么，NPU 到底是什么？我們真的需要 NPU 嗎？本文將為你詳細解讀 NPU 技術(shù)，幫助你了解它的定義和用途等。

NPU 是什么？

NPU 神經(jīng)處理單元

簡單來說，NPU 是一種專門用于處理機器學(xué)習(xí)算法的處理器。它能夠比傳統(tǒng) CPU 和 GPU 更快地執(zhí)行復(fù)雜的數(shù)學(xué)運算，這對于高效運行神經(jīng)網(wǎng)絡(luò)至關(guān)重要。

NPU 主要用于處理涉及大量小規(guī)模并行計算的 AI 任務(wù)。它在處理圖片、視頻等多媒體數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)時表現(xiàn)出色，因為這些處理器天生就是為了并行計算而設(shè)計的。

雖然 CPU 和 GPU 也能處理機器學(xué)習(xí)任務(wù)，但效率遠不如 NPU。此外，在設(shè)備中集成 NPU 可以大大減輕 CPU 和 GPU 的負擔(dān)，讓它們能夠更專注地執(zhí)行其他任務(wù)。

NPU 在功能和外觀上與特定應(yīng)用集成電路（ASIC）類似，但兩者并不相同。NPU 設(shè)計更為復(fù)雜和多功能，可以滿足各種神經(jīng)網(wǎng)絡(luò)計算需求；而 ASIC 通常只針對單一用途（如加密貨幣挖礦）。NPU 的強大能力來自于專門為神經(jīng)網(wǎng)絡(luò)計算而設(shè)計的硬件、軟件、編程和驅(qū)動。

值得一提的是，Google 也推出了自家的 AI 處理器，稱為 TPU（張量處理單元）。雖然 TPU 的架構(gòu)與 NPU 不同，但同樣專注于處理復(fù)雜的 AI 算法。

NPU、CPU 和 GPU 有什么不同?

在 AI 計算中，需要執(zhí)行大量的「乘加運算」（Multiply Accumulate, MAC）。大多數(shù) AI 算法都是由許多這樣的運算構(gòu)成，它們在大數(shù)據(jù)集上往往形成樹狀結(jié)構(gòu)，更適合分批處理較小的計算任務(wù)。這正是 NPU 的強項。

• CPU 則是執(zhí)行多種任務(wù)的系統(tǒng)核心。
• GPU 則主要用于并行處理大型數(shù)據(jù)集，如圖像和視頻處理。
• 相比之下，NPU 設(shè)計之初就是為了快速完成較小的計算任務(wù)。專門用于加速深度學(xué)習(xí)算法，因此在處理 AI 相關(guān)任務(wù)時，性能遠超 CPU 和 GPU。

雖然 GPU 和 CPU 也能執(zhí)行 AI 計算，但 NPU 能將這些計算分解成更小的部分，從而實現(xiàn)更快速的處理。

推薦閱讀：NPU 與 GPU 有什么區(qū)別？

NPU 與 TPU

Google Cloud TPU

Google 開發(fā)的 TPU 同樣專注于處理神經(jīng)網(wǎng)絡(luò)，與 NPU 功能相似。但它們在架構(gòu)上有顯著的不同。

與采用傳統(tǒng)馮·諾依曼架構(gòu)（將內(nèi)存和處理單元分離）的 NPU 不同，TPU 采用了一種名為脈動陣列（Systolic Array）的特殊設(shè)計，將運算處理和內(nèi)存單元合并在一個芯片上。因此，TPU 在進行并行計算時，能比 NPU 更快、更高效。

目前，TPU 只在 Google 的 Pixel 手機和 Google Cloud 云平臺上提供，隨著版本迭代，每一代的性能都會有所提升。

雖然 NPU 在峰值性能上要優(yōu)于 TPU，但它們的能耗和延遲也更高；相比之下，TPU 的峰值性能稍低，但能耗更低，延遲也較小。

什么是 GPNPU？

GPNPU 并不是 GPU + NPU 的結(jié)合體，而是代表「通用神經(jīng)處理單元」(General Purpose Neural Processing Units)。

GPNPU 采用了統(tǒng)一處理器架構(gòu)的單一執(zhí)行管道，能夠處理向量和矩陣運算，以及標(biāo)量（控制）代碼。由于整個設(shè)計只有一個由軟件控制的核心，因此可以更輕松地處理復(fù)雜的并行工作負載。

NPU 是未來趨勢嗎？

AI 正在逐漸成為主流技術(shù)。就以 Windows 11 為例，幾乎每個月都會推出新的 AI 功能。最近，微軟在「照片」應(yīng)用中添加了「生成式擦除」這一 AI 功能。此前，還推出了包括 Copilot 在內(nèi)的多項 AI 功能。此外，越來越多的應(yīng)用和服務(wù)也開始整合 AI 技術(shù)。因此可以預(yù)見，AI 將很快滲透到我們生活的方方面面。

對于深度 AI 用戶來說，NPU 是一種非常有價值的硬件投資。如前所述，NPU 能顯著提升設(shè)備的處理能力?；诂F(xiàn)有趨勢，NPU 將被廣泛應(yīng)用于日常使用的現(xiàn)代設(shè)備當(dāng)中，未來甚至可能成為物聯(lián)網(wǎng)（IoT）設(shè)備的標(biāo)配。

我需要 NPU 嗎？

目前市場上的大多數(shù) AI 服務(wù)，如 OpenAI 的 ChatGPT 語言模型，都在云端進行計算。那為什么還需要本地 NPU 呢？

• 使用本地 NPU 的一個主要優(yōu)勢是可以顯著減少數(shù)據(jù)在 Intelnet 和本地之間返回的延遲。因此，如果你的工作高度依賴 AI，那么擁有專屬的 NPU 將大大提高處理速度。
• 此外，NPU 還可以減輕 CPU 和 GPU 的負擔(dān)，讓它們可以空出資源來處理其他重要任務(wù)。如果你的系統(tǒng)搭載了 NPU，你就能將 CPU 和 GPU 留給其他需要大量硬件資源的任務(wù)。
• 最后，如果你是 Windows 11 用戶，很多 24H2 及更高版本中的 AI 功能都需要滿足 AI PC 或 Copilot+ PC 條件的設(shè)備才能使用，例如 Windows Recall 和 Windows Studio Effects 等。

綜上所述，如果你頻繁進行以 AI 為核心的計算任務(wù)，那么擁有 NPU 將非常有價值。

推薦閱讀：3 招快速識別你的 Windows 11 電腦是否搭載了 NPU

最新評論