能看到整個(gè)界面設(shè)計(jì)是很清爽的,上方可以選擇QWen-14B-Chat、Baichuan2-13B-Chat、CHatGLM3-6B、CodeGeeX2-6B以及BianQue2這些模型,每一種模型擅長(zhǎng)不同領(lǐng)域,參數(shù)量也不一樣(以上14B最大,6B最小),大家可以根據(jù)問題來(lái)選擇對(duì)應(yīng)的模型。 BianQue-2大模型推理過程中,CPU調(diào)用占比65%左右,GPU占比15%,基本上就是秒出...
www.dbjr.com.cn/softjc/944081...html 2025-5-27