提高ai計算能力,為企業提供更好和更多的定制化解決方案是全球人工智能領域關注熱點。美國拉斯維加斯時間1月8日2019ces開幕,百度展區的ai計算系統展臺前人氣火爆,這是百度全球領先的ai計算系統首次亮相國際舞臺,觀眾和全球媒體把目光紛紛聚焦于此,希望透過百度這家中國ai“頭雁”企業,感受中國在ai領域的創新實力。
百度ai計算系統展臺擁有的超強ai實力系統,包括了百度自主研發的最新超級ai計算平臺x-man3.0和支撐百度ai計算層面的fast-f ai存儲系統、百度ai計算訓練平臺kongming、ai推理加速引擎anakin等軟件,服務于百度搜索、dueros、apollo、百度智能云等核心業務。
算法、數據和計算是推動ai深度學習技術快速發展的三大要素。在人工智能應用場景和規??焖侔l展的背后,為支持更強的泛化能力,更高的預測精度,算法模型日趨復雜,越來越多的數據需要被及時標注和處理,計算性能成為關鍵。圖像分析的樣本量級大約為百億級,而語音分析也達到了十萬小時級。訓練數據樣本量越來越大,且主要是小文件,對存儲系統的成本和性能都提出了很大挑戰。最新的算法發展比如deep speech、bert對整個計算需求所造成的挑戰變得更大,同時autodl等技術在簡化模型研發設計的同時也對算力提出了更高的要求,因此針對ai場景需要一整套計算系統,包括支持海量小文件高速訪問的并行文件系統、ai計算機、大規模分布式訓練平臺以及在線服務推理框架,這正是百度ai計算系統要解決的挑戰,提升整個計算系統的性能與效率提高尤為重要。
在百度ai計算系統展臺最受矚目的超級ai計算平臺x-man3.0,就是專為ai深度學習場景優化設計,極大加快了ai深度學習模型的訓練速度。還專門設計了兩級ai加速芯片互聯交換體系,是目前擴展ai加速器數量最多的ai計算平臺之一,單機性能可達到2000 tops,可以為百度超大規模ai訓練帶來超出預期的應用價值。隨著ai人工智能技術的快速發展,眾多ai芯片公司應運而生,ai芯片格局正呈現多元化發展趨勢。x-man3.0采用了硬件系統模塊化、互聯接口標準化、互聯拓撲高靈活性的設計思路,既提升了多元化ai加速芯片的兼容性,也促進了ai加速芯片生態健康、快速、可持續的發展。
憑借著對ai業務模型的深刻理解、扎實的硬件基礎架構技術和對行業趨勢的準確預判,百度設計了x-man ai計算平臺系列產品,創造了6項業界第一,包括單機16卡、支持64卡擴展、硬件解耦、資源池化、無損通信、液冷散熱等,同時期關鍵技術&性能保持領先,引領行業發展趨勢。該系列技術也獲得了2018年中國國家專利技術優秀獎。
百度x-man的問世與升級為人工智能領域解決算力提升問題做出了重要貢獻,成為人工智能發展真正的加速器。目前,x-man系列產品已在百度實現規模化部署,廣泛應用于語音識別、計算機視覺、自然語音處理、無人車等基礎ai技術的深度學習模型訓練;x-man與fast-f ai存儲系統、百度ai計算訓練平臺kongming一起構建了端到端的訓練方案,將訓練時間從周級別縮短到天級別,服務于百度dueros、apollo、百度智能云等核心業務,助力百度ai戰略的快速落地。
(超級ai計算平臺x-man3.0)
ai推理加速引擎anakin是另一個吸引了眾多業內關注的百度ai產品。它解決的痛點是能夠跨越不同的深度學習訓練框架。近幾年,為了解決ai計算力提升問題,業界涌現出了很多優秀的解決方案。但是帶來的問題是,不同訓練框架需要的運營環境不同。這意味著每個訓練框架在每個硬件平臺下都需要各搭建一套運行環境,甚至還有些框架是不支持某些硬件平臺的。他們之間的不互通,使得很多ai應用落地受到了阻礙。
anakin主要由獨立的parser、靈活的framework和高效的saber計算庫三部分組成。獨立的parser實現了將不同訓練框架生成的model轉換為anakin計算圖的解析功能,它支持任何訓練框架生成的model解析,屏蔽了不同訓練框架的差異。靈活的framework屏蔽了底層硬件的差異,用于實現與硬件無關的所有操作,如網絡構建、圖融合、資源復用、計算調度等操作,方便用戶使用。高效的saber計算庫是由大量的匯編級優化代碼組成,支持眾多業內產品,如intel-cpu、nv-gpu、amd-gpu和arm等。
anakin不僅同時支持cpu和gpu base的多種主流計算架構(如x86/arm、以及多種gpu架構),還同時支持兩款最新的npu架構(寒武紀和比特大陸)。 anakin盡可能為開發者屏蔽異構計算的差異,方便用戶快速部署、享受卓越性能。
目前anakin已在百度搜索、百度地圖、百度無人車、人臉閘機、全民小視頻等眾多百度明星產品中實際落地,是真正的經歷過大規模工業部署考驗的ai推理加速引擎。
百度ai計算系統作為ai計算基礎技術解決方案,也同時應用到了百度智能云的ai相關產品中,比如百度智能云gpu云主機、百度智能云infinite ai開發平臺、百度智能云abc一體機等,使各行各業都能享受到百度ai計算基礎技術創新帶來的紅利。(作者:陳蕊)
(免責聲明:中國青年網轉載此文目的在于傳遞更多信息,不代表本網的觀點和立場。文章內容僅供參考,不構成投資建議。投資者據此操作,風險自擔。)
來源:中國青年網
以上是網絡信息轉載,信息真實性自行斟酌。