安兔兔AI大模型評(píng)測(cè)該軟件可以測(cè)試您電腦的CPU、GPU上的AI處理能效，后續(xù)也會(huì)增加對(duì)于NPU的支持，準(zhǔn)確評(píng)判電腦的AI能力，以便讓您可以更好地規(guī)劃電腦在AI方面的使用場(chǎng)景。

CPU測(cè)試部分，通過(guò)運(yùn)行特定的AI任務(wù)和算法，對(duì)CPU的計(jì)算能力、數(shù)據(jù)處理速度以及指令執(zhí)行效率進(jìn)行評(píng)估，小到簡(jiǎn)單的數(shù)學(xué)運(yùn)算，大到復(fù)雜的邏輯推理和大語(yǔ)言模型問答等多個(gè)方面，更加全面地展現(xiàn)CPU在不同AI應(yīng)用中的表現(xiàn)。由于CPU屬于計(jì)算機(jī)的核心部件，所以在AI處理中起著至關(guān)重要的作用。

GPU測(cè)試部分，與CPU的測(cè)試基本相同，都是通過(guò)特定的AI任務(wù)和算法，對(duì)GPU的計(jì)算能力、處理速度以及指令執(zhí)行效率進(jìn)行評(píng)估。在某些特定場(chǎng)景下，GPU可以加速AI計(jì)算，對(duì)于處理大規(guī)模數(shù)據(jù)和負(fù)載模型擁有很大優(yōu)勢(shì)。

具體測(cè)試門檻如下：

1. 必須是WIndows10及以上操作系統(tǒng)。

2. 至少預(yù)留10GB的可用硬盤空間。

3. CPU最低支持AVX2指令集。

4. 需要足夠的內(nèi)存空間，例如使用獵戶星空大模型14B時(shí)，至少需要16GB的RAM。

5. 需要安裝正確的GPU驅(qū)動(dòng)

6. 需要安裝支持OpenCL或CUDA軟件環(huán)境。

具體使用方法如下：

1. 用戶可以從安兔兔官網(wǎng)或其他可靠渠道下載安兔兔AI大模型評(píng)測(cè)軟件的安裝程序。

2. 運(yùn)行安裝程序，按照提示步驟進(jìn)行操作。

3. 打開軟件后，軟件會(huì)自動(dòng)匹配適合的大模型資源，點(diǎn)擊下載安裝。

4.等待安裝完成。

5. 大模型安裝完成后，用戶可以根據(jù)自己需求，選擇進(jìn)行CPU測(cè)試或GPU測(cè)試。

6.點(diǎn)擊開始測(cè)試按鈕，軟件會(huì)自動(dòng)檢測(cè)設(shè)備是否滿足測(cè)試要求，若滿足則進(jìn)行測(cè)試。

如果測(cè)試過(guò)程中出現(xiàn)了異常情況，可能與可用內(nèi)存和可用顯存限制有關(guān)。建議在開始測(cè)試前，請(qǐng)先關(guān)閉不必要的后臺(tái)應(yīng)用以釋放更多內(nèi)存，或重啟設(shè)備清理臨時(shí)內(nèi)存占用。

此外，軟件測(cè)試前會(huì)檢驗(yàn)大模型的資源完整性，如果文件受損或保存位置有誤，也會(huì)導(dǎo)致無(wú)法進(jìn)行測(cè)試。解決方法就是退出并重啟程序再次下載大模型資源包。

當(dāng)你使用安兔兔AI大模型評(píng)測(cè)軟件完成測(cè)試后，結(jié)果頁(yè)會(huì)顯示詳細(xì)的信息，比如頁(yè)面頂端顯示的是所測(cè)項(xiàng)目中的最高分，這個(gè)分?jǐn)?shù)反映了電腦在CPU和GPU中和測(cè)試中的最佳表現(xiàn)。

10萬(wàn)分以下表示設(shè)備可能難以高效處理復(fù)雜AI任務(wù)，10萬(wàn)-50萬(wàn)分之間則表示設(shè)備性能良好，能夠處理大多數(shù)常見AI任務(wù)。50萬(wàn)分以上說(shuō)明您的設(shè)備在AI處理方面的表現(xiàn)非常優(yōu)秀，適合處理要求較高的AI應(yīng)用。

與此同時(shí)，結(jié)果頁(yè)會(huì)明確顯示本次測(cè)試使用的大模型是獵戶星空大模型14B還是通義千問大模型7B。

當(dāng)然，結(jié)果頁(yè)還會(huì)顯示您電腦的CPU和GPU型號(hào)，以便您在比較不同設(shè)備性能時(shí)，有更具體的參考依據(jù)。

如果在測(cè)試過(guò)程中出現(xiàn)異常，結(jié)果頁(yè)會(huì)提供相應(yīng)的說(shuō)明，幫助你了解問題所在并采取解決措施。比如顯存不足、顯卡未安裝、驅(qū)動(dòng)程序不兼容等。

需要注意的是，結(jié)果頁(yè)顯示的“速度：xx tokens/s”是Primpt推理和生成速度的平均值，并非單一大模型推理速度或生成速度。這個(gè)速度值越高，說(shuō)明您的設(shè)備在處理AI任務(wù)時(shí)的效率也就越高。