華為云|說吧，盤古你憑什么獲獎(jiǎng)？

今日，在蘇州召開的

第四屆全球人工智能產(chǎn)品應(yīng)用博覽會(huì)上

華為云盤古大模型榮獲“智博會(huì)產(chǎn)品金獎(jiǎng)”

“智博會(huì)產(chǎn)品金獎(jiǎng)”
是博覽會(huì)的重磅獎(jiǎng)項(xiàng)

盤古大模型究竟是何方神圣

擁有什么突破性技術(shù)創(chuàng)新

有哪些可落地的應(yīng)用實(shí)踐

能脫穎而出獲此殊榮？

讓我們跟隨主持人樂樂和小易

近距離了解一下

什么是盤古大模型？

今年4月，華為云發(fā)布了盤古系列超大預(yù)訓(xùn)練模型，具有超大規(guī)模參數(shù)、超高精度的特質(zhì)，讓AI開發(fā)模式從手工作坊式升級(jí)到工業(yè)化開發(fā)新模式，以減少行業(yè)側(cè)的數(shù)據(jù)標(biāo)注依賴，從而降低人工智能開發(fā)的門檻和成本，目前包括“四大分身”：

文本大模型 （NLP）

重點(diǎn)在于文本的理解和生成能力，可以理解文字背后的含義，從文本中抽取關(guān)鍵信息，例如從法律文書中快速找出案件要素，提高判決效率，也可以輔助人類寫作；

視覺大模型 （CV）

重點(diǎn)在于視覺理解的能力，可以對(duì)各行業(yè)的圖像進(jìn)行識(shí)別和檢測(cè)，例如快速找出工業(yè)產(chǎn)品的缺陷，提高質(zhì)檢效率；

多模態(tài)大模型

重點(diǎn)在于圖像和文本的跨模態(tài)理解與生成能力，可以根據(jù)給定的文本生成圖像，也可以根據(jù)給定的圖像生成文本，可以幫助人類提高產(chǎn)品設(shè)計(jì)和藝術(shù)創(chuàng)作的效率；

科學(xué)計(jì)算大模型

目標(biāo)是幫助人類解決各種科學(xué)問題，如氣象預(yù)測(cè)、海浪預(yù)測(cè)、分子動(dòng)力學(xué)預(yù)測(cè)、微分方程求解等，用AI技術(shù)來促進(jìn)基礎(chǔ)科學(xué)的發(fā)展。除了這四大能力外，華為云也在積極探索大模型在其他方向的應(yīng)用，如3D點(diǎn)云、神經(jīng)渲染等，未來會(huì)將大模型應(yīng)用在更多方面。

為什么開發(fā)盤古大模型？

當(dāng)前業(yè)界大部分人工智能開發(fā)者，正在沿用傳統(tǒng)的“小作坊模式”，即針對(duì)每個(gè)場(chǎng)景，獨(dú)立地完成模型選擇、數(shù)據(jù)處理、模型優(yōu)化、模型迭代等一系列開發(fā)環(huán)節(jié)。

由于無法積累通用知識(shí)，同時(shí)不同領(lǐng)域的調(diào)試方法有所不同，這樣的開發(fā)模式往往比較低效。特別地，當(dāng)前人工智能領(lǐng)域存在大量專業(yè)水平不高的開發(fā)者，他們往往不能掌握規(guī)范的開發(fā)模式和高效的調(diào)優(yōu)技巧，從而使得模型的精度、性能、可擴(kuò)展性等指標(biāo)都不能達(dá)到滿意的水平。

盤古大模型將改變傳統(tǒng)的“小作坊開發(fā)模式”，走向新的“工業(yè)化開發(fā)模式”，將一套通用的流水線復(fù)用到各種不同的場(chǎng)景里去，減少專家的干預(yù)和人為調(diào)優(yōu)的消耗，從而降低人工智能開發(fā)的門檻和成本。

盤古大模型有哪些突破性技術(shù)創(chuàng)新？

過去兩年，盤古大模型獲得了10多個(gè)業(yè)界挑戰(zhàn)賽冠軍，30多個(gè)專利申請(qǐng)，發(fā)表了70多篇IEEE、ACM期刊論文，以及120多篇CCF A類會(huì)議論文。

盤古大模型的開發(fā)過程中首次采用了多項(xiàng)領(lǐng)先技術(shù)，如：

● 首次在圖像預(yù)訓(xùn)練流程中加入生成和判別損失，兼顧C(jī)V大模型的判別能力和生成能力，保證模型在底層圖像恢復(fù)和高層語義理解的能力。

● 首次在文本預(yù)訓(xùn)練模型中使用Encoder-Decoder架構(gòu)，兼顧NLP大模型的理解能力和生成能力，保證模型在不同系統(tǒng)中的嵌入靈活性。

● 在對(duì)比度自監(jiān)督學(xué)習(xí)中引入了樣本相似性，使得小樣本學(xué)習(xí)的能力獲得了顯著提升，達(dá)到業(yè)界第一。

● 采用“階段式訓(xùn)練”和“動(dòng)態(tài)冰化”策略，顯著提升大模型訓(xùn)練的穩(wěn)定性和效率，僅需少量樣本和可學(xué)習(xí)參數(shù)即可完成千億規(guī)模大模型的快速微調(diào)和下游適配。

盤古大模型有哪些落地的應(yīng)用實(shí)踐？

盤古預(yù)訓(xùn)練大模型已經(jīng)在多個(gè)行業(yè)場(chǎng)景成功驗(yàn)證，包括能源、零售、金融、工業(yè)、醫(yī)療、環(huán)境、物流等等。

● 在國(guó)網(wǎng)重慶永川公司落地的無人機(jī)智能巡檢項(xiàng)目中

盤古大模型幫助電力部門，減輕了大量人工，還提高了巡檢的效率。以前訓(xùn)練一個(gè)模型要人工標(biāo)注上萬張圖片，現(xiàn)在只需要幾十張；以前模型開發(fā)要一個(gè)物品識(shí)別一個(gè)模型，現(xiàn)在一個(gè)大模型就可以完成大量物品的識(shí)別。

● 在實(shí)時(shí)海浪預(yù)測(cè)項(xiàng)目中

傳統(tǒng)科學(xué)計(jì)算模型在預(yù)測(cè)海浪高度變化的時(shí)候，需要消耗海量的超算算力?；诒P古科學(xué)計(jì)算大模型，在保證準(zhǔn)確率的前提下，將預(yù)測(cè)速度提升到了原來的10,000倍，極大地提升了預(yù)測(cè)的時(shí)效性。

可見，盤古大模型已支撐起城市各行各業(yè)多種多樣的創(chuàng)新和智能應(yīng)用，成為了名副其實(shí)的城市數(shù)字化轉(zhuǎn)型的智能基礎(chǔ)設(shè)施。

總結(jié)而言，華為云盤古大模型實(shí)現(xiàn)了一個(gè)AI大模型在眾多場(chǎng)景通用、泛化和規(guī)?；瘡?fù)制，減少了對(duì)數(shù)據(jù)標(biāo)注的依賴，讓AI開發(fā)由作坊式轉(zhuǎn)變?yōu)楣I(yè)化開發(fā)的新模式，節(jié)約研發(fā)成本。

同時(shí)，盤古大模型還提供模型預(yù)訓(xùn)練、微調(diào)、部署和迭代的功能，形成了AI開發(fā)完整閉環(huán)，極大地提升了AI開發(fā)效率?？s短了傳統(tǒng)行業(yè)走向智能化的距離，賦能千行百業(yè)邁向智能化的星辰大海。