物聯(lián)網(wǎng)(iot)的發(fā)展勢(shì)如破竹,智能邊緣計(jì)算也成為了最熱門(mén)的市場(chǎng)領(lǐng)域。人工智能+物聯(lián)網(wǎng)(aiot)+邊緣計(jì)算,將打破傳統(tǒng)iot數(shù)據(jù)中心不在邊緣設(shè)備上的弊端,能夠讓人工智能在邊緣設(shè)備上變得更智能、更敏捷,滿足更多應(yīng)用場(chǎng)景的需求。邊緣設(shè)備上的本地計(jì)算意味著大量的數(shù)據(jù)需要被有效的推理、分析和提取,對(duì)算力的需求非常之高,同時(shí)要求低延遲低功耗。

異構(gòu)智能創(chuàng)始人兼首席執(zhí)行官吳韌博士在近期舉行的2019 sv connect峰會(huì)主題演講中,分享了人工智能如何在網(wǎng)絡(luò)邊緣實(shí)現(xiàn)高算力低功耗的觀點(diǎn)。他認(rèn)為,半導(dǎo)體行業(yè)正在不斷向人工智能領(lǐng)域拓展,傳統(tǒng)的芯片構(gòu)架已經(jīng)不能夠滿足人工智能的各種應(yīng)用需求,尤其是在邊緣設(shè)備上的應(yīng)用。

332 >

吳韌博士在sv connect 2019上的主旨演講

做人工智能的專用領(lǐng)域架構(gòu)

“通用處理器時(shí)代即將結(jié)束,未來(lái)計(jì)算性能的提高將以專用處理器構(gòu)架(dsa)為突破口,適用于機(jī)器學(xué)習(xí)和推斷神經(jīng)網(wǎng)絡(luò)處理器。”吳博士還引用圖靈獎(jiǎng)獲得者h(yuǎn)ennessy與patterson的觀點(diǎn),“dsa is the only path to move forward(專用處理器構(gòu)架是通向未來(lái)的唯一道路)”。dsa是異構(gòu)計(jì)算的一種表現(xiàn)形式,異構(gòu)計(jì)算的直接解釋是指不同構(gòu)架的幾種處理器組合在一起進(jìn)行計(jì)算,理念核心在于使用專業(yè)的硬件做專業(yè)的事情。dsa旨在對(duì)特定領(lǐng)域進(jìn)行特定的優(yōu)化,發(fā)揮硬件性能的最高效力。

281 >

傳統(tǒng)上,深度學(xué)習(xí)技術(shù)依賴高性能gpu來(lái)滿足高算力需求。然而涉及到具體的消費(fèi)市場(chǎng)要求就沒(méi)有那么奢侈了,往往還有更為嚴(yán)格的功耗以及成本限制。尤其涉及到人工智能在不同場(chǎng)景的應(yīng)用,對(duì)硬件的要求往往是能夠滿足準(zhǔn)確的目標(biāo)。“傳統(tǒng)芯片的構(gòu)架在進(jìn)行神經(jīng)網(wǎng)絡(luò)等人工智能計(jì)算上需要將矩陣展開(kāi)來(lái)進(jìn)行計(jì)算,這個(gè)過(guò)程會(huì)導(dǎo)致很多不必要的計(jì)算和功耗。我們自主設(shè)計(jì)的novutensor芯片構(gòu)架支持原生張量計(jì)算,在保證高算力的同時(shí),能夠達(dá)到遠(yuǎn)超于其他常見(jiàn)架構(gòu)的功耗比。”吳韌博士還提到, “許多芯片公司提到自己的產(chǎn)品峰值算力很高,但是卻閉口不提計(jì)算的精度,很多高算力低功耗的背后,往往就是對(duì)計(jì)算精度的犧牲,這樣的產(chǎn)品無(wú)疑是經(jīng)不住市場(chǎng)考驗(yàn)的。novutensor使用獨(dú)創(chuàng)的動(dòng)態(tài)半精度浮點(diǎn)計(jì)算,與標(biāo)準(zhǔn)半精度浮點(diǎn)數(shù)相比精度損失極小但能大大節(jié)省硬件開(kāi)銷。”

281 >

用異構(gòu)計(jì)算思維做生意,處處都是自己人

ai時(shí)代的來(lái)臨,解決方案的需求也在進(jìn)一步明確以及增長(zhǎng)。吳博士認(rèn)為,ai是一個(gè)賦能的產(chǎn)業(yè),異構(gòu)智能的愿景就是用ai幫助不同領(lǐng)域的企業(yè)將他們的產(chǎn)品做得更好。無(wú)論是智能安防攝像頭,智能家居,智能工廠,數(shù)據(jù)中心等,都需要能夠處理大量數(shù)據(jù)以及視頻圖像的高性價(jià)比計(jì)算引擎。“異構(gòu)計(jì)算的核心觀念在于發(fā)揮不同架構(gòu)處理器的優(yōu)點(diǎn),讓擅長(zhǎng)的人做擅長(zhǎng)的事,異構(gòu)智能的產(chǎn)品也是如此。”吳博士提到,“我們擅長(zhǎng)的就是幫助不同產(chǎn)業(yè)賦能人工智能技術(shù),讓他們的產(chǎn)品能夠更貼近市場(chǎng)需求,更好的服務(wù)他們的客戶。”

以上是網(wǎng)絡(luò)信息轉(zhuǎn)載，信息真實(shí)性自行斟酌。