“華為的大模型不作詩，只做事”，華為常務(wù)董事、華為云CEO張平安在2023年華為開發(fā)者大會上直言。
【資料圖】
7月7日，在華為開發(fā)者大會上，華為正式發(fā)布盤古大模型3.0。與此前發(fā)布的大模型不同，盤古大模型“不為聊天而生”，專注于包括礦山、氣象、金融等不同場景、不同行業(yè)多樣化需求。用張平安的話說就是“我們從來不會將盤古大模型對標(biāo)ChatGPT”。
今年上半年，國內(nèi)大模型如雨后春筍般出現(xiàn)，令國內(nèi)AI算力需求陡增在。此次發(fā)布的盤古大模型另一大看點(diǎn)在于底層基于華為昇騰AI算力集群，按照華為方面設(shè)想，相較于火遍全球的GPU架構(gòu)，昇騰AI算力集群希望成為國內(nèi)AI算力另一極。
不作詩、只做事
“今年上半年，光國內(nèi)就發(fā)布了86個(gè)大模型，這些大模型都有很強(qiáng)對話能力，市場也在疑惑，華為的大模型在哪里？”張平安在開發(fā)者大會上表達(dá)出業(yè)內(nèi)對于華為的疑惑。在這一背景下，華為盤古大模型“千呼萬喚始出來”。只不過，按照華為給予的定位，與其他大模型不同，盤古大模型“不作詩，只做事”。
實(shí)際上，華為在2021年就立項(xiàng)盤古大模型，目前在CV大模型、NLP大模型、科學(xué)計(jì)算大模型等領(lǐng)域都有技術(shù)和落地案例。在此次開發(fā)者大會上，華為正式發(fā)布盤古大模型3.0。
據(jù)介紹，本次大會發(fā)布的盤古大模型3.0是一個(gè)面向行業(yè)的大模型系列，包括“5+N+X”三層架構(gòu)。
其中L0層包括自然語言、視覺、多模態(tài)、預(yù)測、科學(xué)計(jì)算五個(gè)基礎(chǔ)大模型，提供滿足行業(yè)場景中的多種技能需求，另外華為方面提供100億參數(shù)、380億參數(shù)、710參數(shù)和1000億參數(shù)的系列化基礎(chǔ)大模型，匹配客戶不同場景、不同時(shí)延、不同響應(yīng)速度的行業(yè)多樣化需求。
同時(shí)，盤古大模型提供全新能力集，包括NLP大模型的知識問答、文案生成、代碼生成，以及多模態(tài)大模型的圖像生成、圖像理解等能力。
在L1層，是N個(gè)行業(yè)大模型，華為云既可以提供使用行業(yè)公開數(shù)據(jù)訓(xùn)練的行業(yè)通用大模型，包括政務(wù)，金融，制造，礦山，氣象等大模型；也可以基于行業(yè)客戶的自有數(shù)據(jù)，在盤古大模型的L0和L1層上，為客戶訓(xùn)練自己的專有大模型。
張平安在會上提及，L0和L1未來將會是盤古大模型規(guī)劃重點(diǎn)。而L2層則是提供更多細(xì)化場景的模型，更加專注于政務(wù)熱線、網(wǎng)點(diǎn)助手、先導(dǎo)藥物篩選、傳送帶異物檢測、臺風(fēng)路徑預(yù)測等具體行業(yè)應(yīng)用或特定業(yè)務(wù)場景。
不為聊天而生
“盤古大模型出生就不是為聊天而生，我們也從來沒有想過對標(biāo)ChatGPT，這是與其他大模型最大的不同，”張平安對記者表示。
那么，盤古大模型究竟能用于什么場景？華為在開發(fā)者大會上舉例介紹，在煤礦領(lǐng)域，盤古礦山大模型已經(jīng)在全國8個(gè)礦井規(guī)模使用，一個(gè)大模型可以覆蓋煤礦的采、掘、機(jī)、運(yùn)、通、洗選等業(yè)務(wù)流程下的1000多個(gè)細(xì)分場景，讓更多的煤礦工人能夠在地面上作業(yè)，極大地減少安全事故。
在鐵路領(lǐng)域，盤古鐵路大模型能精準(zhǔn)識別現(xiàn)網(wǎng)運(yùn)行的67種貨車、430多種故障，無故障圖片篩除率高達(dá)95%，將列檢員從每日數(shù)百萬張的“圖海”檢測中解放出來。
在氣象領(lǐng)域，盤古氣象大模型是首個(gè)精度超過傳統(tǒng)數(shù)值預(yù)報(bào)方法的AI預(yù)測模型，同時(shí)預(yù)測速度也有大幅提升。原來預(yù)測一個(gè)臺風(fēng)未來10天的路徑，需要在3000臺服務(wù)器的高性能計(jì)算機(jī)集群上花費(fèi)5小時(shí)進(jìn)行仿真。現(xiàn)在基于預(yù)訓(xùn)練的盤古氣象大模型，通過AI推理的方式，研究者只需單臺服務(wù)器上單卡配置，10秒內(nèi)就可以獲得更精確的預(yù)測結(jié)果。
在制造領(lǐng)域，過去單產(chǎn)線制定器件分配計(jì)劃，往往要花費(fèi)3個(gè)小時(shí)以上才能做齊1天的生產(chǎn)計(jì)劃。盤古制造大模型學(xué)習(xí)了華為產(chǎn)線上各種器件數(shù)據(jù)、業(yè)務(wù)流程及規(guī)則以后，能夠?qū)I(yè)務(wù)需求進(jìn)行準(zhǔn)確的意圖理解，并調(diào)用天籌AI求解器插件，1分鐘即可做出未來3天的生產(chǎn)計(jì)劃。
AI算力另一極
值得注意的是，盤古大模型從芯片、AI框架、AI平臺實(shí)現(xiàn)了全棧創(chuàng)新。
“眾所周知，我們不能使用行業(yè)主流的GPU架構(gòu)，因此我們只能自己搭建框架和平臺，” 張平安在會上表示。據(jù)他介紹，盤古大模型算力基于華為昇騰AI集群，其中核心則是達(dá)芬奇架構(gòu)的昇騰芯片適配神經(jīng)網(wǎng)絡(luò)計(jì)算。
資料顯示，達(dá)芬奇架構(gòu)是華為自研的面向AI計(jì)算特征的全新計(jì)算架構(gòu)，具備高算力、高能效、靈活可裁剪的特性。具體來說，達(dá)芬奇架構(gòu)采用3D Cube針對矩陣運(yùn)算做加速，大幅提升單位功耗下的AI算力，每個(gè)AI Core可以在一個(gè)時(shí)鐘周期內(nèi)實(shí)現(xiàn)4096個(gè)MAC操作，相比傳統(tǒng)的CPU和GPU實(shí)現(xiàn)數(shù)量級的提升。
大模型加速迭代趕超的背后，是不容忽視的算力挑戰(zhàn)。大模型研發(fā)高度依賴高端AI芯片、集群及生態(tài)，高計(jì)算性能、高通信帶寬和大顯存成為大模型訓(xùn)練必不可少的算力底座。
“現(xiàn)在行業(yè)中面臨的普遍問題是GPU芯片獲取困難，這一領(lǐng)域也存在‘卡脖子’風(fēng)險(xiǎn)，”張平安在會上直言。在他看來，昇騰AI集群方案投入使用，可以解決AI領(lǐng)域高成本問題。
張平安表示，基于昇騰AI集群的模型訓(xùn)練效率對比GPU架構(gòu)提升1.1倍。此外，據(jù)他介紹，在大模型訓(xùn)練過程中經(jīng)常會遇到GPU故障，研發(fā)人員不得不經(jīng)常重啟訓(xùn)練，時(shí)間長代價(jià)大。昇騰AI云服務(wù)可以提供更長穩(wěn)的AI算力服務(wù)，千卡訓(xùn)練30天長穩(wěn)率達(dá)到90%，斷點(diǎn)恢復(fù)時(shí)長不超過10分鐘。
而且，昇騰云服務(wù)除了支持華為的AI框架Mindspore外，還支持Pytorch，Tensorflow等主流AI框架，框架中的90%算子，都可以通過華為的遷移工具從GPU平滑遷移到昇騰。
需要注意的是，就在一天前，此前推出訊飛星火認(rèn)知大模型的科大訊飛宣布與昇騰AI合作打造通用智能新底座。
科大訊飛方面也表示，訊飛星火認(rèn)知大模型基于訓(xùn)練推理一體化設(shè)計(jì)，實(shí)現(xiàn)大模型稀疏化、低精度量化的技術(shù)突破，能高效適配昇騰AI，加速大模型的行業(yè)落地應(yīng)用和迭代；另一方面，以昇騰AI為核心，軟硬件協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓(xùn)練集群。
記者在開發(fā)者大會上獲悉，目前華為云2000P Flops單集群的昇騰AI云服務(wù)已經(jīng)在7日在烏蘭察布和貴安同時(shí)上線。張平安在會上對記者表示，面對目前業(yè)界普遍認(rèn)可的GPU架構(gòu)，昇騰AI算力集群希望成為AI算力的另一極。
