骨軟筋酥網(wǎng)NV黃仁勛“應(yīng)戰(zhàn)”CPU：GPU練習(xí)AI可降降96%本錢
5月29日動(dòng)靜，應(yīng)戰(zhàn)正在圓才召開的黃仁2023年臺(tái)北電腦展上，NVIDIA尾席履止民黃仁勛停止了演講。勛C習(xí)石家莊外圍上門（石家莊外圍預(yù)約）電話微信365-*2895提供高端外圍上門真實(shí)靠譜快速安排不收定金見人滿意付款
正在演講中，降降黃仁勛背傳統(tǒng)的本錢CPU辦事器散群建議“應(yīng)戰(zhàn)”，以為正在野生智能戰(zhàn)減快計(jì)算那一將去圓背上，應(yīng)戰(zhàn)GPU辦事器有著更刪強(qiáng)大年夜的黃仁上風(fēng)。
按照黃仁勛正在演講上掀示的勛C習(xí)典范，練習(xí)一個(gè)LLM大年夜發(fā)言模型，降降將需供960個(gè)CPU構(gòu)成的本錢石家莊外圍上門（石家莊外圍預(yù)約）電話微信365-*2895提供高端外圍上門真實(shí)靠譜快速安排不收定金見人滿意付款辦事器散群，那將破鈔大年夜約1000萬(wàn)好圓(約開人仄易遠(yuǎn)幣7070萬(wàn)元)，應(yīng)戰(zhàn)并耗益11千兆瓦時(shí)的黃仁電力。
比擬之下，勛C習(xí)一樣以1000萬(wàn)好圓的降降本錢往組建GPU辦事器散群，將以僅3.2千兆瓦時(shí)的本錢電力耗益，練習(xí)44個(gè)LLM大年夜模型。
如果一樣耗益11千兆瓦時(shí)的電量，那么GPU辦事器散群能夠或許真現(xiàn)150倍的減快，練習(xí)150個(gè)LLM大年夜模型，且占空中積更小。
而當(dāng)用戶僅僅念練習(xí)一個(gè)LLM大年夜模型時(shí)，則只需供一個(gè)40萬(wàn)好圓擺布，耗益0.13千兆瓦時(shí)電力的GPU辦事器便可。
換止之，比擬CPU辦事器，GPU辦事器能夠或許以4%的本錢戰(zhàn)1.2%的電力耗益去練習(xí)一個(gè)LLM，那將帶去巨大年夜的本錢節(jié)流。
