腳本之家服務(wù)器常用軟件

快捷導(dǎo)航

MindSpore深度學(xué)習(xí)框架 v2.5.0

MindSpore框架

投訴報(bào)錯(cuò)

源碼大?。?span>156MB
源碼語(yǔ)言：簡(jiǎn)體中文
源碼類型：國(guó)產(chǎn)軟件
源碼授權(quán)：開(kāi)源軟件
源碼類別：其它源碼
應(yīng)用平臺(tái)：Python
更新時(shí)間：2025-03-01
網(wǎng)友評(píng)分：

360通過(guò) 騰訊通過(guò) 金山通過(guò)

156MB

詳情介紹

MindSpore是一種適用于端邊云場(chǎng)景的新型開(kāi)源深度學(xué)習(xí)訓(xùn)練/推理框架。 MindSpore提供了友好的設(shè)計(jì)和高效的執(zhí)行，旨在提升數(shù)據(jù)科學(xué)家和算法工程師的開(kāi)發(fā)體驗(yàn)，并為Ascend AI處理器提供原生支持，以及軟硬件協(xié)同優(yōu)化。

同時(shí)，MindSpore作為全球AI開(kāi)源社區(qū)，致力于進(jìn)一步開(kāi)發(fā)和豐富AI軟硬件應(yīng)用生態(tài)。

MindSpore特點(diǎn)：

自動(dòng)微分

當(dāng)前主流深度學(xué)習(xí)框架中有三種自動(dòng)微分技術(shù)：

基于靜態(tài)計(jì)算圖的轉(zhuǎn)換：編譯時(shí)將網(wǎng)絡(luò)轉(zhuǎn)換為靜態(tài)數(shù)據(jù)流圖，將鏈?zhǔn)椒▌t應(yīng)用于數(shù)據(jù)流圖，實(shí)現(xiàn)自動(dòng)微分。

基于動(dòng)態(tài)計(jì)算圖的轉(zhuǎn)換：記錄算子過(guò)載正向執(zhí)行時(shí)網(wǎng)絡(luò)的運(yùn)行軌跡，對(duì)動(dòng)態(tài)生成的數(shù)據(jù)流圖應(yīng)用鏈?zhǔn)椒▌t，實(shí)現(xiàn)自動(dòng)微分。

基于源碼的轉(zhuǎn)換：該技術(shù)是從功能編程框架演進(jìn)而來(lái)，以即時(shí)編譯（Just-in-time Compilation，JIT）的形式對(duì)中間表達(dá)式（程序在編譯過(guò)程中的表達(dá)式）進(jìn)行自動(dòng)差分轉(zhuǎn)換，支持復(fù)雜的控制流場(chǎng)景、高階函數(shù)和閉包。

TensorFlow早期采用的是靜態(tài)計(jì)算圖，PyTorch采用的是動(dòng)態(tài)計(jì)算圖。靜態(tài)映射可以利用靜態(tài)編譯技術(shù)來(lái)優(yōu)化網(wǎng)絡(luò)性能，但是構(gòu)建網(wǎng)絡(luò)或調(diào)試網(wǎng)絡(luò)非常復(fù)雜。動(dòng)態(tài)圖的使用非常方便，但很難實(shí)現(xiàn)性能的極限優(yōu)化。

MindSpore找到了另一種方法，即基于源代碼轉(zhuǎn)換的自動(dòng)微分。一方面，它支持自動(dòng)控制流的自動(dòng)微分，因此像PyTorch這樣的模型構(gòu)建非常方便。另一方面，MindSpore可以對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行靜態(tài)編譯優(yōu)化，以獲得更好的性能。

MindSpore自動(dòng)微分的實(shí)現(xiàn)可以理解為程序本身的符號(hào)微分。MindSpore IR是一個(gè)函數(shù)中間表達(dá)式，它與基礎(chǔ)代數(shù)中的復(fù)合函數(shù)具有直觀的對(duì)應(yīng)關(guān)系。復(fù)合函數(shù)的公式由任意可推導(dǎo)的基礎(chǔ)函數(shù)組成。MindSpore IR中的每個(gè)原語(yǔ)操作都可以對(duì)應(yīng)基礎(chǔ)代數(shù)中的基本功能，從而可以建立更復(fù)雜的流控制。

自動(dòng)并行

MindSpore自動(dòng)并行的目的是構(gòu)建數(shù)據(jù)并行、模型并行和混合并行相結(jié)合的訓(xùn)練方法。該方法能夠自動(dòng)選擇開(kāi)銷最小的模型切分策略，實(shí)現(xiàn)自動(dòng)分布并行訓(xùn)練。

目前MindSpore采用的是算子切分的細(xì)粒度并行策略，即圖中的每個(gè)算子被切分為一個(gè)集群，完成并行操作。在此期間的切分

學(xué)習(xí)框架 MindSpore

下載地址

下載錯(cuò)誤？【投訴報(bào)錯(cuò)】