眾所周知,算法,、算力和數(shù)據(jù)是共同制約AI發(fā)展的三個(gè)關(guān)鍵要素,,這也是ChatGPT完美運(yùn)行的三個(gè)條件。
其中,,算力是ChatGPT運(yùn)行的關(guān)鍵所在,。而一個(gè)ChatGPT應(yīng)用的算力消耗卻讓人瞠目結(jié)舌。
其大模型GPT經(jīng)歷了三次迭代,,GPT,、GPT-2和GPT-3(當(dāng)前開放的版本為GPT-3.5)的參數(shù)量從1.17億增加到1750億,預(yù)訓(xùn)練數(shù)據(jù)量從5GB增加到45TB,,其中GPT-3訓(xùn)練單次的成本就已經(jīng)高達(dá)460萬美元,。
最新的GPT3.5在訓(xùn)練中使用了微軟專門建設(shè)的AI計(jì)算系統(tǒng),由1萬個(gè)V100 GPU組成的高性能網(wǎng)絡(luò)集群,,總算力消耗約3640PF-days,,即假如每秒計(jì)算一千萬億次,需要計(jì)算3640天,。
如何理解這樣的算力消耗呢,?可以簡單做一個(gè)分析——我國近期正大力新建數(shù)據(jù)中心, 以其中總投資30.2億,,算力500P的數(shù)據(jù)中心項(xiàng)目來說,,要想支撐起ChatGPT的運(yùn)行,至少要7-8個(gè)此量級(jí)的數(shù)據(jù)中心運(yùn)行一整天,。
事實(shí)上,,僅2012年2019年,短短七年,,人類對(duì)AI算力的需求就增長了30萬倍,。平均每100天就會(huì)翻倍,,遠(yuǎn)超摩爾定律,。
與此同時(shí),,AI算力的實(shí)際增長卻有限,需求和供給之間形成了一個(gè)巨大的鴻溝,。
準(zhǔn)華為輪值主席孟晚舟曾在一次公開演講時(shí)就表示,,現(xiàn)在的算力還遠(yuǎn)遠(yuǎn)不能滿足未來的需求,算力必然是世界科技競爭的焦點(diǎn)之一,。
另外,,GPU或CPU+FPGA是ChatGPT算力的硬件支撐,該應(yīng)用對(duì)于高端芯片的需求增加會(huì)拉動(dòng)芯片均價(jià),,量價(jià)齊升將導(dǎo)致芯片需求暴漲,。
據(jù)了解,采購一片英偉達(dá)頂級(jí)GPU成本為8萬元,,GPU服務(wù)器成本通常超過40萬元,。對(duì)于ChatGPT而言,支撐其算力基礎(chǔ)設(shè)施至少需要上萬顆英偉達(dá)GPU A100,,單采購GPU的成本就近億元,。
而ChatGPT越火,對(duì)算力及其關(guān)聯(lián)產(chǎn)業(yè)的需求便越大,。
中國信息通信研究院測算,,截至2021年底,中國算力核心產(chǎn)業(yè)規(guī)模超過1.5萬億元,,關(guān)聯(lián)產(chǎn)業(yè)規(guī)模超過8萬億元,。
這是一塊巨大的蛋糕。并且隨著AI產(chǎn)品應(yīng)用的逐漸滲透,,這塊蛋糕將越來越大,。
除了算力外,ChatGPT引發(fā)萬眾矚目的還包括在C端的破冰,。
一直以來,,AI產(chǎn)品的落地與盈利基本都靠B、G兩端支撐,,在C端雖然也有不少試水,,但都沒有引發(fā)太大的反響,幾乎沒有讓大部分人愿意買單的項(xiàng)目,。
如果ChatGPT真的能成為一款現(xiàn)象級(jí)產(chǎn)品,,將具有劃時(shí)代意義。
不妨想想,,在移動(dòng)互聯(lián)網(wǎng)時(shí)代,,微信讓騰訊成為了時(shí)代的王者,月活躍用戶數(shù)量達(dá)12.88億;依靠抖音,,字節(jié)跳動(dòng)不到十年就躍升為中國最著名的互聯(lián)網(wǎng)企業(yè)之一,;而拼多多市值已經(jīng)是百度的3倍……
這背后不僅是一場產(chǎn)業(yè)革命,更是數(shù)以萬億計(jì)財(cái)富的誕生,。如今,,類似的連鎖反應(yīng)也開始在AI領(lǐng)域顯現(xiàn)。
歡迎光臨 機(jī)械社區(qū) (http://giwivy.com.cn/) | Powered by Discuz! X3.4 |