華為宣布開源盤古7B稠密和72B混合專家模型

2025-07-01 11:33  瀏覽:  

華為加入開源大軍,開源了首個大模型。

6月30日,華為宣布開源盤古70億參數(shù)的稠密模型和720億參數(shù)的混合專家模型(盤古Pro MoE 72B)。此外,基于昇騰的模型推理技術(shù)也同步開源。華為表示,此舉是華為踐行昇騰生態(tài)戰(zhàn)略的又一關(guān)鍵舉措,將推動大模型技術(shù)的研究與創(chuàng)新發(fā)展,加速推進人工智能在千行百業(yè)的應(yīng)用與價值創(chuàng)造。

據(jù)了解,華為最新開源的Pro MoE 72B大模型,在參數(shù)量僅為720億,激活160億參數(shù)量的情況下,通過動態(tài)激活專家網(wǎng)絡(luò)的創(chuàng)新設(shè)計,實現(xiàn)了以小打大的優(yōu)異性能,甚至可以媲美千億級模型的性能表現(xiàn)。在業(yè)界權(quán)威大模型榜單Super CLUE最新公布的2025年5月排行榜上,位居千億參數(shù)量以內(nèi)大模型排行并列國內(nèi)第一。

最近一段時間以來,華為公開了一系列基于昇騰的大模型技術(shù),讓國內(nèi)AI開發(fā)者備感期待。

今年6月20日舉辦的華為開發(fā)者大會2025上,華為重磅發(fā)布了盤古大模型5.5。全新升級的盤古大模型5.5包含了五大基礎(chǔ)模型,分別面向NLP(自然語言處理)、多模態(tài)、預(yù)測、科學計算、計算機視覺領(lǐng)域,推動大模型成為行業(yè)數(shù)智化轉(zhuǎn)型的核心動力。會上,華為還發(fā)布了基于Cloud Matrix384超節(jié)點的新一代昇騰AI云服務(wù),將384顆昇騰NPU和192顆鯤鵬CPU通過高速網(wǎng)絡(luò)Matrix Link全對等互聯(lián),形成一臺超級“AI服務(wù)器”,單卡推理吞吐量躍升到2300Tokens/s,可為大模型應(yīng)用提供“澎湃算力”。

值得注意的是,今年5月30日,華為還重磅推出參數(shù)規(guī)模高達7180億的全新模型——盤古Ultra MoE。這是一個全流程在昇騰AI計算平臺上訓練的準萬億MoE模型。同時,華為發(fā)布盤古Ultra MoE模型架構(gòu)和訓練方法的技術(shù)報告,披露眾多技術(shù)細節(jié),充分體現(xiàn)了昇騰在超大規(guī)模MoE訓練性能上的跨越。

這一系列突破,更為關(guān)鍵的意義在于,華為盤古大模型是基于昇騰云的全棧軟硬件訓練而成的,這標志著基于昇騰架構(gòu)可以打造出世界一流大模型。華為不僅完成了國產(chǎn)算力+國產(chǎn)模型的全流程自主可控的訓練實踐,同時在集群訓練系統(tǒng)的性能上也實現(xiàn)了業(yè)界領(lǐng)先,這意味著實現(xiàn)了從硬件到軟件、從訓練到優(yōu)化、從基礎(chǔ)研究到工程落地的“全棧國產(chǎn)化”和“全流程自主可控”的閉環(huán),國產(chǎn)AI基礎(chǔ)設(shè)施的自主創(chuàng)新能力得到了進一步驗證。

此外,與其他大模型廠商相比,華為在大模型戰(zhàn)略上一直獨樹一幟,強調(diào)“不作詩,只做事”,堅持為千行萬業(yè)“解難題,做難事”,加速千行萬業(yè)智能化升級。在盤古大模型5.5發(fā)布的同時,華為五大盤古行業(yè)思考大模型(盤古醫(yī)學、盤古金融、盤古政務(wù)、盤古工業(yè)、盤古汽車)也同步上線。

華為常務(wù)董事、華為云計算CEO張平安介紹,在過去的一年中,盤古大模型持續(xù)深耕行業(yè),已在30多個行業(yè)、500多個場景中落地,在政務(wù)、金融、制造、醫(yī)療、煤礦、鋼鐵、鐵路、自動駕駛、氣象等領(lǐng)域發(fā)揮巨大價值,重塑千行萬業(yè)。

因此,此次華為宣布開源盤古70億參數(shù)的稠密模型和720億參數(shù)的混合專家模型,一方面有助于更多開發(fā)者基于國產(chǎn)算力平臺開發(fā)大模型技術(shù),進一步擴展昇騰生態(tài);另一方面在開源的帶動下,有助于吸引更多垂直行業(yè)以盤古大模型為基礎(chǔ)打造智能化解決方案,推動大模型更廣泛更深入地賦能千行百業(yè)。

免責聲明:本網(wǎng)轉(zhuǎn)載自合作媒體、機構(gòu)或其他網(wǎng)站的信息,登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其內(nèi)容的真實性。本網(wǎng)所有信息僅供參考,不做交易和服務(wù)的根據(jù)。本網(wǎng)內(nèi)容如有侵權(quán)或其它問題請及時告之,本網(wǎng)將及時修改或刪除。凡以任何方式登錄本網(wǎng)站或直接、間接使用本網(wǎng)站資料者,視為自愿接受本網(wǎng)站聲明的約束。
相關(guān)推薦
華為宣布開源盤古7B稠密和72B混合專家模型

華為宣布開源盤古7B稠密和72B混合專家模型

華為加入開源大軍,開源了首個大模型。6月30日,華為宣布開源盤古70億參數(shù)的稠密模型和720億參數(shù)的混合專家模型(盤古Pro MoE 72B)。此外,基于昇騰的模型推理技術(shù)也同步開源。華為表示,此舉是華為踐行昇騰生態(tài)戰(zhàn)略的又一關(guān)鍵舉措,將推動大模型技術(shù)的研究與創(chuàng)新發(fā)展,加速推進人工智能在千行百業(yè)的應(yīng)用與價值創(chuàng)造。據(jù)了解,華為最新開源的Pro MoE 72B大模型,在參數(shù)量僅為720億,激活160億參數(shù)量的情況下,通過動態(tài)激活專家網(wǎng)絡(luò)的創(chuàng)新設(shè)計,實現(xiàn)了以小打...
特朗普稱已經(jīng)為TikTok找到買家,并將在大約兩周后公布

特朗普稱已經(jīng)為TikTok找到買家,并將在大約兩周后公布

美國總統(tǒng)特朗普近日在接受采訪時透露,一群非常富有的人正計劃收購目前面臨禁令的短視頻平臺TikTok,但并他未透露具體買家身份,僅表示會在大約兩周后公布是誰。他認為中國可能會批準這一交易。此前,美國國會擔憂TikTok可能將用戶敏感數(shù)據(jù)交由中國政府,因此要求TikTok母公司字節(jié)跳動將其美國業(yè)務(wù)出售給非中資企業(yè),否則將在美遭禁。美國前總統(tǒng)拜登于2024年簽署法律,要求TikTok在2025年1月19日之前完成出售。2025年1月17日,美國最高法院一致裁定...
國家能源集團發(fā)布全球首個千億級發(fā)電行業(yè)大模型

國家能源集團發(fā)布全球首個千億級發(fā)電行業(yè)大模型

6月28日,國家能源集團在京舉行發(fā)布會,正式發(fā)布全球首個千億級發(fā)電行業(yè)大模型——擎源發(fā)電大模型。該模型以首創(chuàng)多能協(xié)同動態(tài)優(yōu)化新引擎,首創(chuàng)發(fā)電行業(yè)垂直深耕新范式,首創(chuàng)全棧自主可控智能決策新體系三個創(chuàng)新,構(gòu)建了覆蓋電力交易、產(chǎn)調(diào)中樞、設(shè)備檢修、安全管理全鏈條的智能決策體系,實現(xiàn)電力全場景智慧化升級、模型自主優(yōu)化能力升級和電系統(tǒng)智能化變革升級,引領(lǐng)我國能源行業(yè)向智能化、數(shù)字化邁進。當前,以人工智能、大數(shù)據(jù)為代表的新一代信...
英特爾關(guān)閉汽車業(yè)務(wù),并裁撤該部門多數(shù)員工

英特爾關(guān)閉汽車業(yè)務(wù),并裁撤該部門多數(shù)員工

2025年6月24日消息,英特爾宣布關(guān)閉旗下小型汽車業(yè)務(wù),并裁撤該部門多數(shù)員工,旨在重新聚焦核心客戶端和數(shù)據(jù)中心產(chǎn)品。汽車技術(shù)本非其核心業(yè)務(wù),雖宣稱5000萬輛汽車用其處理器,但仍決定關(guān)停。此外,新任CEO陳立武4月預(yù)警裁員,本月起制造部門將裁員20%,營銷工作也將外包。這些舉措將重塑運營,但如何借此提升競爭力、打入AI市場,仍是英特爾面臨的挑戰(zhàn)。一、英特爾關(guān)閉汽車業(yè)務(wù):裁撤 絕大多數(shù) 員工2025 年 6 月 24 日,英特爾發(fā)布重磅消息,將逐步關(guān)閉旗下...
美國碳化硅半導體制造商Wolfspeed宣布將申請破產(chǎn)重組

美國碳化硅半導體制造商Wolfspeed宣布將申請破產(chǎn)重組

美國碳化硅半導體制造商Wolfspeed宣布將申請破產(chǎn)重組,計劃依據(jù)美國《破產(chǎn)法》第11章提交自愿重整申請。這一決定是其與主要債權(quán)人簽署重組支持協(xié)議(RSA)的一部分,目標是削減債務(wù)、減輕現(xiàn)金流壓力,并為公司的長期發(fā)展奠定更堅實的財務(wù)基礎(chǔ)。根據(jù)協(xié)議內(nèi)容,Wolfspeed將削減約70%的債務(wù),金額達46億美元,年現(xiàn)金利息支出也將下降約60%。公司將獲得2.75億美元的新融資,這筆資金將以次級可轉(zhuǎn)換債券形式發(fā)行,由現(xiàn)有債券持有人全面承銷。同時,公司還將...

推薦閱讀

熱文

Copyright © 能源界