小鵬汽車近日在香港舉辦了一場(chǎng)AI技術(shù)分享盛會(huì)，會(huì)上首次公開了其正在研發(fā)的自動(dòng)駕駛領(lǐng)域重大項(xiàng)目——“小鵬世界基座模型”。這一超大規(guī)模的大模型擁有720億參數(shù)，代表著小鵬汽車在自動(dòng)駕駛技術(shù)上的又一重大突破。

據(jù)小鵬汽車自動(dòng)駕駛負(fù)責(zé)人李力耘介紹，基座模型是以大語(yǔ)言模型為骨干，結(jié)合海量?jī)?yōu)質(zhì)駕駛數(shù)據(jù)進(jìn)行多模態(tài)訓(xùn)練的結(jié)果。它不僅具備出色的視覺(jué)理解能力，還擁有鏈?zhǔn)酵评砗蛣?dòng)作生成能力。通過(guò)強(qiáng)化學(xué)習(xí)訓(xùn)練，該模型能夠不斷自我進(jìn)化，有望在未來(lái)實(shí)現(xiàn)超越人類水平的自動(dòng)駕駛技術(shù)。

為了支撐這一大規(guī)模模型的研發(fā)，小鵬汽車自去年起便著手布局AI基礎(chǔ)設(shè)施，成功建成了國(guó)內(nèi)汽車行業(yè)首個(gè)萬(wàn)卡智算集群。這一集群為基座模型的預(yù)訓(xùn)練、后訓(xùn)練、模型蒸餾以及車端模型訓(xùn)練等任務(wù)提供了強(qiáng)大的算力支持。小鵬汽車將這一從云到端的生產(chǎn)流程形象地稱為“云端模型工廠”。

據(jù)了解，“云端模型工廠”目前擁有10 EFLOPS的算力，集群運(yùn)行效率常年保持在90%以上，全鏈路迭代周期平均僅需5天。小鵬研發(fā)團(tuán)隊(duì)還利用自動(dòng)駕駛訓(xùn)練數(shù)據(jù)開發(fā)了多個(gè)尺寸的基座模型，并已開始著手推進(jìn)720億參數(shù)的超大規(guī)?；Ｐ偷难邪l(fā)工作。這一模型的參數(shù)量是主流VLA模型的35倍左右，展示了小鵬汽車在自動(dòng)駕駛技術(shù)上的深厚積累。

小鵬汽車表示，其AI基礎(chǔ)設(shè)施的搭建始于2024年，目前已建立起萬(wàn)卡規(guī)模的智能算力集群，成為國(guó)內(nèi)汽車行業(yè)最大的自動(dòng)駕駛算力集群。算力儲(chǔ)備達(dá)到10 EFLOPS，集群利用率高峰時(shí)期甚至可達(dá)98%。小鵬汽車還透露，用于訓(xùn)練基座模型的視頻數(shù)據(jù)量已從2000萬(wàn)clips增長(zhǎng)至2億clips，為基座模型的研發(fā)提供了豐富的數(shù)據(jù)支持。

在分享會(huì)上，小鵬汽車還展示了其在自動(dòng)駕駛領(lǐng)域的三大階段性成果。首先，驗(yàn)證了規(guī)模法則在自動(dòng)駕駛領(lǐng)域的持續(xù)有效性；其次，在后裝算力的車端成功實(shí)現(xiàn)了基座模型對(duì)車輛的控制；最后，啟動(dòng)了720億參數(shù)基座模型的訓(xùn)練工作，并搭建了針對(duì)強(qiáng)化學(xué)習(xí)的模型訓(xùn)練框架。

未來(lái)，小鵬世界基座模型將全面賦能小鵬AI體系全圖譜，包括AI汽車、AI機(jī)器人以及飛行汽車等領(lǐng)域。小鵬汽車將繼續(xù)致力于自動(dòng)駕駛技術(shù)的研發(fā)和創(chuàng)新，推動(dòng)智能出行領(lǐng)域的不斷發(fā)展。