6月13日,第三屆軟件創(chuàng)新發(fā)展大會在武漢召開,百度集團副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心副主任吳甜分享了大模型時代給深度學(xué)習(xí)平臺等基礎(chǔ)軟件帶來的變化。她表示,大模型效果不斷提升的背后是深度學(xué)習(xí)平臺等基礎(chǔ)軟件的支持,飛槳等深度學(xué)習(xí)平臺的發(fā)展將為人工智能下一步發(fā)展提供長足的支持力。
百度集團副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心副主任 吳甜
在主論壇環(huán)節(jié),吳甜分享道,大模型的爆發(fā)將人工智能推向一個新的高潮。大模型具有效果好、泛化性強、研發(fā)流程標(biāo)準(zhǔn)化等特點,正在引領(lǐng)人工智能的發(fā)展。研發(fā)大模型,對深度學(xué)習(xí)平臺等基礎(chǔ)軟件提出了新的挑戰(zhàn)。
大模型的研發(fā)需要深度學(xué)習(xí)平臺的支持,面對大模型的模型結(jié)構(gòu)、計算規(guī)模和學(xué)習(xí)機制等特點,支撐大模型研發(fā)的深度學(xué)習(xí)平臺需要具備大規(guī)模并行計算、高性能推理部署、全流程工程化等三方面能力。以百度飛槳為例,飛槳作為百度自研的產(chǎn)業(yè)級深度學(xué)習(xí)開源開放平臺,從核心框架、基礎(chǔ)模型庫,到端到端開發(fā)套件、工具與組件,以及星河社區(qū)等,全方面支持了文心大模型的演進(jìn)過程。
2018年底,百度就開展了大模型技術(shù)研發(fā),2019年3月正式發(fā)布文心大模型1.0,今年4月發(fā)布了最新的文心 4.5 Turbo和文心X1 Turbo。文心大模型的能力拓展和效率提升,得益于飛槳和文心的聯(lián)合優(yōu)化,包括框架模型的聯(lián)合優(yōu)化,也包括框架算力的聯(lián)合優(yōu)化。通過訓(xùn)練和推理的技術(shù)創(chuàng)新,文心4.5 Turbo訓(xùn)練吞吐達(dá)到文心4.5的5.4倍,推理吞吐達(dá)到8倍。
今年4月,飛槳框架迎來重大更新,發(fā)布了飛槳框架3.0正式版。飛槳框架3.0面向大模型和異構(gòu)多芯設(shè)計,注重大模型訓(xùn)推性能、開發(fā)調(diào)優(yōu)過程和部署環(huán)境,具備動靜統(tǒng)一自動并行、大模型訓(xùn)推一體、科學(xué)計算高階微分、神經(jīng)網(wǎng)絡(luò)編譯器、異構(gòu)多芯適配五大新特性,為開發(fā)者打造了一站式、高性能的深度學(xué)習(xí)開發(fā)體驗。
吳甜表示,基礎(chǔ)軟件平臺需要大量的開發(fā)者共建,飛槳正持續(xù)賦能開發(fā)者,飛槳AI Studio星河社區(qū)已上線700萬個實踐項目,600多門公開課以及400多場AI競賽。
公開資料顯示,基于飛槳深度學(xué)習(xí)平臺和文心大模型,百度在上海、廣州、南京、武漢、廈門、寧波、南昌、無錫等多地落地產(chǎn)業(yè)賦能中心、數(shù)據(jù)生態(tài)中心和教育創(chuàng)新中心,加快區(qū)域產(chǎn)業(yè)智能化升級。在武漢,百度飛槳已重點賦能229家企業(yè),拓展29家飛槳技術(shù)合作伙伴,培育出23個基于文心大模型/飛槳的生態(tài)AI產(chǎn)品。
例如,在能源管理方向,易睿德(武漢)物聯(lián)網(wǎng)有限公司基于飛槳實現(xiàn)的負(fù)荷預(yù)測模型,能夠制定更為科學(xué)合理的能源調(diào)配策略,電力負(fù)荷預(yù)測準(zhǔn)確率從50%提升至86%,光伏發(fā)電預(yù)測準(zhǔn)確率達(dá)到83%,儲能調(diào)度效率提升40%;在低空經(jīng)濟領(lǐng)域,普宙科技基于百度飛槳打造低空視覺AI中臺,構(gòu)建了覆蓋城市管理、交通監(jiān)測、森林防火、水域治理等場景的“無人值守”監(jiān)管體系,已為全球300多個城市服務(wù),實現(xiàn)無人機車流量統(tǒng)計準(zhǔn)確率96%,煙火識別準(zhǔn)確率95%,森林、公園等場景巡檢效率提升200%。
吳甜最后表示,飛槳文心開發(fā)者數(shù)量已超過2185萬,服務(wù)超過67萬家企業(yè),創(chuàng)建的模型達(dá)到110萬。