壁仞科技張文:如何再降低大模型成本?,5月23日訊,在第四屆BEYOND國(guó)際科技創(chuàng)新博覽會(huì)上,壁仞科技創(chuàng)始人張文分享了自己對(duì)AI大模型的看法。張文表示,AI大模型的成本降低可以從三個(gè)方面,包括芯片、系統(tǒng)、集群能力三個(gè)維度,“芯片層面,過(guò)去訓(xùn)練一個(gè)AI大模型可能需要幾個(gè)月時(shí)間,現(xiàn)在隨著芯片算力增大,包括帶寬增加,可能縮短到幾個(gè)星期。系統(tǒng)維度,可能我們將來(lái)把CPU、GPU和DPU架構(gòu)融合起來(lái),可以提高系統(tǒng)集群能力,現(xiàn)在集群做的越來(lái)越好,算力的效率也大幅提升?!?p>備注:數(shù)據(jù)僅供參考,不作為投資依據(jù)。
掃碼下載
免費(fèi)看價(jià)格