前幾年的“人工智能熱”讓大小廠商陸續(xù)跳入ai芯片的研發(fā)大軍中,而當(dāng)這股潮水褪去,當(dāng)初的50多家公司大多數(shù)都黯然退出歷史舞臺,如今只剩10家左右。ai芯片的風(fēng)口已然過去。據(jù)艾瑞咨詢發(fā)布的2019年《ai芯片行業(yè)研究報告》指出,目前ai芯片行業(yè)接近gartner技術(shù)曲線泡沫頂端,只有通過市場檢驗和篩選的優(yōu)質(zhì)團隊才能夠繼續(xù)獲得產(chǎn)業(yè)、政策和資本的青睞與支持。
隨著ai芯片進入深水區(qū),人們更關(guān)注的不再是單純的算力,還有對應(yīng)用落地和商業(yè)化的支持:進入了哪些場景?合作了哪些客戶?有沒有軟硬一體化方案?是否已經(jīng)有實際案例?……“ai落地難”已成行業(yè)共識,浮華過后,ai芯片接下來將進入市場檢驗真理的階段。
ai芯片為何落地難?
首先,我們來看下當(dāng)前ai芯片的格局。目前市面上ai芯片主要分為云端ai芯片與終端ai 芯片,云端ai芯片主要部署在大型服務(wù)器中,可支持圖像、語音等不同類別的ai 應(yīng)用;終端芯片則被放在音箱、攝像頭等硬件設(shè)備中。由于云端芯片起步較早,且所需要協(xié)同的cpu/gpu等硬件成本投入規(guī)模高,該領(lǐng)域已被英偉達、intel等巨頭瓜分殆盡;國內(nèi)一眾ai從業(yè)者大多選擇發(fā)力在終端芯片領(lǐng)域,如自動駕駛、安防、零售、智能硬件等。但ai芯片終端市場細分化、碎片化、應(yīng)用場景不明確也是一大難題。
至于ai芯片落地難的原因可能有無數(shù)個。例如,芯片研發(fā)比ai語言的更迭速度慢,當(dāng)芯片面市時,其采用的ai語言可能已經(jīng)過時了。這種問題首先體現(xiàn)在量產(chǎn),但歸根結(jié)底,缺乏殺手級應(yīng)用場景才是最致命的。ai芯片廠商高投入研發(fā)過后,卻不知道自己的產(chǎn)品要賣給哪些客戶或者說應(yīng)用到哪些產(chǎn)品上,無法找到可持續(xù)性的落地場景。
地平線的聯(lián)合創(chuàng)始人兼副總裁黃暢表示,缺乏殺手級應(yīng)用使得現(xiàn)有的ai芯片大多沒有清晰的定位,無法高度優(yōu)化ppa。做半導(dǎo)體的都知道ppa有多么重要,尤其是performance。ai芯片需要針對應(yīng)用場景進行設(shè)計,以此來指導(dǎo)研發(fā)調(diào)整優(yōu)化方向,引導(dǎo)客戶進行正確選擇,同時能夠促進行業(yè)有序協(xié)同向前發(fā)展。
再者,用戶接受度也不高,ai應(yīng)用所需要的數(shù)據(jù)閉環(huán)難以形成。需要明確的是,ai應(yīng)用開發(fā)模式與傳統(tǒng)軟件開發(fā)流程不同,傳統(tǒng)軟件開發(fā)可清晰定義功能,通過編程就能實現(xiàn);而ai應(yīng)用則要通過示例(數(shù)據(jù))來定義功能再進行開發(fā),需要形成數(shù)據(jù)閉環(huán),且自動迭代。
“ai是一個全新領(lǐng)域,ai芯片需要支撐的不僅是ai計算,更要面向場景,實現(xiàn)完整的功能。芯片公司多年的積累不是主要矛盾,其主要矛盾是如何將軟硬件結(jié)合起來,開發(fā)出一個高效能、低功耗、低成本,同時能夠又快又準的完成自主機器人的任務(wù)。ai芯片的成功不止于將isp調(diào)的好,能夠看清楚;也不是將傳統(tǒng)的語音算法做的更精進,更不是說一個傳統(tǒng)的車規(guī)芯片公司把cpu和dsp升級成一個npu,ai芯片沒有那么簡單。”黃暢如是說。
在紛繁復(fù)雜的碎片化終端市場中,最需要什么樣的ai芯片?黃暢認為:“需要的是能極致優(yōu)化ppa的ai芯片,這個ppa的提升需是數(shù)量級的,要能適應(yīng)未來數(shù)年的算法演進,同時充分考慮算法發(fā)展,從而能真正替代gpu。”
但黃暢也告訴半導(dǎo)體行業(yè)觀察記者,目前ai芯片也有其可取之處,例如,大多數(shù)ai芯片的工具鏈都能對場景深度學(xué)習(xí)框架有比較好的支持,也培養(yǎng)了一些開發(fā)者,在開發(fā)成本上有一定的降低,減少了對于cuda之類的編程生態(tài)的依賴。
誰來定義ai芯片的“好壞”?
都說ai芯片難落地,客戶難評判,那么一款ai芯片的“好壞”究竟如何來評估呢?是tflops?是tops?還是mlperf?ai芯片界好像依然沒能找到完美體現(xiàn)真實性能的衡量標(biāo)準。
為何這么說?目前業(yè)界慣常使用的芯片評測標(biāo)準有兩種,一是峰值算力,但這只反映ai芯片理論上的最大計算能力,而非在實際ai應(yīng)用場景中的處理能力,具有很大的局限性;二是目前行業(yè)較為知名的基準測試組織mlperf,但其采用的模型少且更新速度滯后于算法演進的速度,無法及時反映算法效率的提升以及各種精度下芯片能夠達到的計算速度,因而無法描述芯片ai性能的全貌。
針對當(dāng)前ai芯片評測中存在的問題,地平線提出maps(mean accuracy-guaranteed processing speed)評測方法,針對應(yīng)用場景的特點,在精度有保障的前提下,包容所有與算法相關(guān)的選擇,評估芯片對數(shù)據(jù)的平均處理速度。為行業(yè)提供一個評估芯片ai性能的全新視角。
“評估芯片ai性能,本質(zhì)上應(yīng)該關(guān)注做ai任務(wù)的速度和精度,即‘多快’和‘多準’。”
黃暢介紹說:“maps評測方法,能關(guān)注真實的用戶價值,將每顆芯片在‘快’和‘準’這兩個關(guān)鍵維度上的取舍變化直觀地展現(xiàn)出來,并在合理的精度范圍內(nèi),評估芯片的平均處理速度。這個方法具有可視化和可量化的特點。”
maps 聚焦“快”和“準”兩個關(guān)鍵評測維度,用最優(yōu)幀率精度所圍面積直接體現(xiàn) ai 芯片的最強能力
按照黃暢的說法,這個全新的maps評估方式對行業(yè)來說有六大創(chuàng)新之處:
第一,它將芯片的benchmark通過圖形變得可視化,表達更精準;
第二,該方式關(guān)注真實、面向結(jié)果的需求,只在乎精度和速度,不在乎中間任何關(guān)于算法的取舍和選擇;
第三,可以統(tǒng)一表示精度與速度,關(guān)注主流精度區(qū)間;
第四,隱藏與最終結(jié)果無關(guān)的中間變量,包括模型、輸入大小、批處理的量是多大;
第五,通過maps評估方法可以在算力之外幫助用戶理解這個芯片到底能跑多快以及多好;
第六,留有最大的空間引導(dǎo)客戶使用最優(yōu)的方式使用某一顆芯片,這一點非常重要,是去真正指導(dǎo)客戶使用這個芯片的最佳實踐。
芯片是個生態(tài)系統(tǒng),單獨依靠一家之力是玩不轉(zhuǎn)的。地平線的maps評估標(biāo)準最重要的意義是讓行業(yè)能夠形成一種合力,讓大家更好的協(xié)同,不管你是買方還是賣方,大家都有一個相對清晰的目標(biāo),容易形成共識、形成協(xié)力,這樣才好健康地去推動整個行業(yè)往前發(fā)展。黃暢表示。
ai芯片花開兩朵:“旭日”東升,“征程”萬里
有了好的評估標(biāo)準之后,ai產(chǎn)業(yè)向好,經(jīng)歷過大風(fēng)大浪的ai芯片,最終將落在哪些場景中呢?作為一家以“為客戶提供的智能化價值”的人工智能公司,地平線將其ai芯片的種子灑向了aiot和自動駕駛航道,花開兩朵,同心向陽。
“做ai芯片需要企業(yè)有很強的洞察力,要在三五年前找到落腳點,以創(chuàng)造真實的價值為導(dǎo)向,本著長期主義的精神堅持不懈的走下去。”黃暢談到。
自動駕駛被看作是ai芯片的殺手級應(yīng)用的潛力市場,近年來伴隨智能駕駛滲透率的提升,全球芯片巨頭也在紛紛向汽車這個產(chǎn)業(yè)靠攏。汽車ai芯片市場未來仍是各大巨頭競爭角逐之地。目前在ai自動駕駛方面,國外的英偉達、英特爾、特斯拉,國內(nèi)的華為、地平線、寒武紀以及芯馳科技等一眾廠商都在深耕這個領(lǐng)域。
地平線是中國最早進入ai芯片領(lǐng)域的人工智能企業(yè)。2015年,在國內(nèi)ai芯片仍未進入大眾視野時,地平線公司成立,率先提出軟硬結(jié)合的bpu芯片架構(gòu);2017年,發(fā)布中國第一款邊緣ai芯片:旭日一代和征程一代;2018年,征程芯片助力國際頂尖robotaxi車隊;2019年,宣布正式量產(chǎn)中國首款車規(guī)級ai芯片征程2。
這幾年,地平線在商業(yè)化的道路上越走越穩(wěn)。就拿征程2 來說,該產(chǎn)品可全方位實現(xiàn)車內(nèi)場景化感知,并基于感知結(jié)果為用戶提供更精準的智能推薦以及智能車控等服務(wù)。
今年3月份,地平線征程2登陸長安uni-t前裝量產(chǎn),使長安uni-t成為首款搭載國產(chǎn)人工智能芯片的智能汽車,而且也讓它走在了世界前列,成為全球首款智能人機交互suv。
眾所周知,車載ai芯片是人工智能行業(yè)的珠穆朗瑪,也是自動駕駛實現(xiàn)大規(guī)模落地的前提。車規(guī)級芯片產(chǎn)品的開發(fā)周期長、難度大,是硬科技、長跑道的創(chuàng)新。在汽車芯片如此高標(biāo)準以及長供貨周期、與主機廠長久的合作關(guān)系下,汽車芯片一旦能夠量產(chǎn),其供應(yīng)格局相對來說就較為穩(wěn)定。
雖然,相比市場前景更大、場景更為復(fù)雜的自動駕駛,地平線在aiot領(lǐng)域的聲量較小,但其重視程度絲毫不差。據(jù)了解,其旭日系列芯片所服務(wù)的客戶已過百家。去年發(fā)布的旭日2的表現(xiàn)也相當(dāng)亮眼,在旭日2上的實際測試結(jié)果表明,分類模型 mobilenet v2 的運行速度超每秒 700 張圖片,實際性能能夠達到甚至超過業(yè)內(nèi)標(biāo)稱 4tops 算力的 ai 芯片。
在aiot領(lǐng)域,地平線堅持底層技術(shù)能力研發(fā)與解決方案的打造,加速普惠 ai 時代到來;在開發(fā)者生態(tài)方面,地平線則通過工具鏈服務(wù)降低開發(fā)者門檻,助力上層應(yīng)用產(chǎn)生,以此豐富整個 aiot 應(yīng)用生態(tài),用行業(yè)的力量推動行業(yè)。目前,地平線已攜手上百家 aiot合作伙伴為產(chǎn)業(yè)提供賦能服務(wù),實現(xiàn)線下場景服務(wù)數(shù)千萬人口。
結(jié)語
自去年旭日2的發(fā)布,又經(jīng)過近一年的商業(yè)化落地和技術(shù)錘煉,面向aiot市場的旭日3正呼之欲出。在此,想劇透下,此前,地平線有在imagetnet模型上進行了一項maps測試,下圖中有一顆地平線即將推出的芯片,在與表現(xiàn)最優(yōu)的標(biāo)稱11.4tops峰值算力的ai芯片對比中,新的芯片雖然在高精度上稍有劣勢,但在追求速度和低延遲等場景中會有不俗的表現(xiàn)。9月9日上午,“地平線”盡頭將再次升起一輪“旭日”!
來源:半導(dǎo)體行業(yè)觀察
以上是網(wǎng)絡(luò)信息轉(zhuǎn)載,信息真實性自行斟酌。