華為云發(fā)布盤古藥物分子大模型,開啟AI藥物研發(fā)新模式
846
2025-04-01
近日,在蘇州召開的
第四屆全球人工智能產(chǎn)品應(yīng)用博覽會上
華為云盤古大模型榮獲“智博會產(chǎn)品金獎(jiǎng)”
“智博會產(chǎn)品金獎(jiǎng)”
是博覽會的重磅獎(jiǎng)項(xiàng)
盤古大模型究竟是何方神圣
擁有什么突破性技術(shù)創(chuàng)新
有哪些可落地的應(yīng)用實(shí)踐
能脫穎而出獲此殊榮?
讓我們跟隨主持人樂樂和小易
近距離了解一下
什么是盤古大模型?
今年4月,華為云發(fā)布了盤古系列超大預(yù)訓(xùn)練模型,具有超大規(guī)模參數(shù)、超高精度的特質(zhì),讓AI開發(fā)模式從手工作坊式升級到工業(yè)化開發(fā)新模式,以減少行業(yè)側(cè)的數(shù)據(jù)標(biāo)注依賴,從而降低人工智能開發(fā)的門檻和成本,目前包括“四大分身”:
文本大模型?(NLP)
重點(diǎn)在于文本的理解和生成能力,可以理解文字背后的含義,從文本中抽取關(guān)鍵信息,例如從法律文書中快速找出案件要素,提高判決效率,也可以輔助人類寫作;
視覺大模型?(CV)
重點(diǎn)在于視覺理解的能力,可以對各行業(yè)的圖像進(jìn)行識別和檢測,例如快速找出工業(yè)產(chǎn)品的缺陷,提高質(zhì)檢效率;
多模態(tài)大模型
重點(diǎn)在于圖像和文本的跨模態(tài)理解與生成能力,可以根據(jù)給定的文本生成圖像,也可以根據(jù)給定的圖像生成文本,可以幫助人類提高產(chǎn)品設(shè)計(jì)和藝術(shù)創(chuàng)作的效率;
科學(xué)計(jì)算大模型
目標(biāo)是幫助人類解決各種科學(xué)問題,如氣象預(yù)測、海浪預(yù)測、分子動(dòng)力學(xué)預(yù)測、微分方程求解等,用AI技術(shù)來促進(jìn)基礎(chǔ)科學(xué)的發(fā)展。除了這四大能力外,華為云也在積極探索大模型在其他方向的應(yīng)用,如3D點(diǎn)云、神經(jīng)渲染等,未來會將大模型應(yīng)用在更多方面。
為什么開發(fā)盤古大模型?
當(dāng)前業(yè)界大部分人工智能開發(fā)者,正在沿用傳統(tǒng)的“小作坊模式”,即針對每個(gè)場景,獨(dú)立地完成模型選擇、數(shù)據(jù)處理、模型優(yōu)化、模型迭代等一系列開發(fā)環(huán)節(jié)。
由于無法積累通用知識,同時(shí)不同領(lǐng)域的調(diào)試方法有所不同,這樣的開發(fā)模式往往比較低效。特別地,當(dāng)前人工智能領(lǐng)域存在大量專業(yè)水平不高的開發(fā)者,他們往往不能掌握規(guī)范的開發(fā)模式和高效的調(diào)優(yōu)技巧,從而使得模型的精度、性能、可擴(kuò)展性等指標(biāo)都不能達(dá)到滿意的水平。
盤古大模型將改變傳統(tǒng)的“小作坊開發(fā)模式”,走向新的“工業(yè)化開發(fā)模式”,將一套通用的流水線復(fù)用到各種不同的場景里去,減少專家的干預(yù)和人為調(diào)優(yōu)的消耗,從而降低人工智能開發(fā)的門檻和成本。
盤古大模型有哪些突破性技術(shù)創(chuàng)新?
過去兩年,盤古大模型獲得了10多個(gè)業(yè)界挑戰(zhàn)賽冠軍,30多個(gè)專利申請,發(fā)表了70多篇IEEE、ACM期刊論文,以及120多篇CCF A類會議論文。
盤古大模型的開發(fā)過程中首次采用了多項(xiàng)領(lǐng)先技術(shù),如:
●?首次在圖像預(yù)訓(xùn)練流程中加入生成和判別損失,兼顧C(jī)V大模型的判別能力和生成能力,保證模型在底層圖像恢復(fù)和高層語義理解的能力。
●?首次在文本預(yù)訓(xùn)練模型中使用Encoder-Decoder架構(gòu),兼顧NLP大模型的理解能力和生成能力,保證模型在不同系統(tǒng)中的嵌入靈活性。
●?在對比度自監(jiān)督學(xué)習(xí)中引入了樣本相似性,使得小樣本學(xué)習(xí)的能力獲得了顯著提升,達(dá)到業(yè)界第一。
●?采用“階段式訓(xùn)練”和“動(dòng)態(tài)冰化”策略,顯著提升大模型訓(xùn)練的穩(wěn)定性和效率,僅需少量樣本和可學(xué)習(xí)參數(shù)即可完成千億規(guī)模大模型的快速微調(diào)和下游適配。
盤古大模型有哪些落地的應(yīng)用實(shí)踐?
盤古預(yù)訓(xùn)練大模型已經(jīng)在多個(gè)行業(yè)場景成功驗(yàn)證,包括能源、零售、金融、工業(yè)、醫(yī)療、環(huán)境、物流等等。
●?在國網(wǎng)重慶永川公司落地的無人機(jī)智能巡檢項(xiàng)目中
盤古大模型幫助電力部門,減輕了大量人工,還提高了巡檢的效率。以前訓(xùn)練一個(gè)模型要人工標(biāo)注上萬張圖片,現(xiàn)在只需要幾十張;以前模型開發(fā)要一個(gè)物品識別一個(gè)模型,現(xiàn)在一個(gè)大模型就可以完成大量物品的識別。
●?在實(shí)時(shí)海浪預(yù)測項(xiàng)目中
傳統(tǒng)科學(xué)計(jì)算模型在預(yù)測海浪高度變化的時(shí)候,需要消耗海量的超算算力。基于盤古科學(xué)計(jì)算大模型,在保證準(zhǔn)確率的前提下,將預(yù)測速度提升到了原來的10,000倍,極大地提升了預(yù)測的時(shí)效性。
可見,盤古大模型已支撐起城市各行各業(yè)多種多樣的創(chuàng)新和智能應(yīng)用,成為了名副其實(shí)的城市數(shù)字化轉(zhuǎn)型的智能基礎(chǔ)設(shè)施。
總結(jié)而言,華為云盤古大模型實(shí)現(xiàn)了一個(gè)AI大模型在眾多場景通用、泛化和規(guī)模化復(fù)制,減少了對數(shù)據(jù)標(biāo)注的依賴,讓AI開發(fā)由作坊式轉(zhuǎn)變?yōu)楣I(yè)化開發(fā)的新模式,節(jié)約研發(fā)成本。
同時(shí),盤古大模型還提供模型預(yù)訓(xùn)練、微調(diào)、部署和迭代的功能,形成了AI開發(fā)完整閉環(huán),極大地提升了AI開發(fā)效率。縮短了傳統(tǒng)行業(yè)走向智能化的距離,賦能千行百業(yè)邁向智能化的星辰大海。
AI 機(jī)器學(xué)習(xí) 深度學(xué)習(xí)
版權(quán)聲明:本文內(nèi)容由網(wǎng)絡(luò)用戶投稿,版權(quán)歸原作者所有,本站不擁有其著作權(quán),亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實(shí)的內(nèi)容,請聯(lián)系我們jiasou666@gmail.com 處理,核實(shí)后本網(wǎng)站將在24小時(shí)內(nèi)刪除侵權(quán)內(nèi)容。
版權(quán)聲明:本文內(nèi)容由網(wǎng)絡(luò)用戶投稿,版權(quán)歸原作者所有,本站不擁有其著作權(quán),亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實(shí)的內(nèi)容,請聯(lián)系我們jiasou666@gmail.com 處理,核實(shí)后本網(wǎng)站將在24小時(shí)內(nèi)刪除侵權(quán)內(nèi)容。