進步AI核算才能,為企業提供更好和更多的定制化處理計劃是全球人工智能范疇重視熱點。美國拉斯維加斯時刻1月8日2019CES開幕,百度地圖標注的AI核算體系展臺前人氣火爆,這是百度全球搶先的AI核算體系首次露臉國際舞臺,觀眾和全球媒體把目光紛紛聚集于此,期望透過百度這家我國AI“頭雁”企業,感受我國在AI范疇的立異實力。
百度AI核算體系展臺具有的超強AI實力體系,包含了百度自主研制的最新超級AI核算渠道X-MAN3.0和支撐百度AI核算層面的FAST-F AI存儲體系、百度AI核算練習渠道KongMing、AI推理加快引擎Anakin等軟件,效勞于百度查找、DuerOS、Apollo、百度智能云等中心事務。 算法、數據和核算是推動AI深度學習技能快速開展的三大要素。在人工智能運用場景和規模快速開展的背面,為支撐更強的泛化才能,更高的猜測精度,算法模型日趨雜亂,越來越多的數據需求被及時標示和處理,核算功能成為要害。圖像分析的樣本量級大約為百億級,而語音分析也達到了十萬小時級。練習數據樣本量越來越大,且主要是小文件,對存儲體系的成本和功能都提出了很大應戰。最新的算法開展比方Deep Speech、BERT對整個核算需求所形成的應戰變得更大,一起AutoDL等技能在簡化模型研制規劃的一起也對算力提出了更高的要求,因此針對AI場景需求一整套核算體系,包含支撐海量小文件高速拜訪的并行文件體系、AI核算機、大規模分布式練習渠道以及在線效勞推理結構,這正是百度AI核算體系要處理的應戰,提高整個核算體系的功能與功率進步尤為重要。
在百度AI核算體系展臺最受矚目的超級AI核算渠道X-MAN3.0,就是專為AI深度學習場景優化規劃,極大加快了AI深度學習模型的練習速度。還專門規劃了兩級AI加快芯片互聯交換體系,是目前擴展AI加快器數量最多的AI核算渠道之一,單機功能可達到2000 TOPS,可以為百度超大規模AI練習帶來超出預期的運用價值。隨著AI人工智能技能的快速開展,許多AI芯片公司應運而生,AI芯片格式正呈現多元化開展趨勢。X-MAN3.0采用了硬件體系模塊化、互聯接口標準化、互聯拓撲高靈敏性的規劃思路,既提高了多元化AI加快芯片的兼容性,也促進了AI加快芯片生態健康、快速、可繼續的開展。
憑借著對AI事務模型的深刻理解、扎實的硬件根底架構技能和對職業趨勢的精確預判,百度規劃了X-MAN AI核算渠道系列產品,發明了6項業界第一,包含單機16卡、支撐64卡擴展、硬件解耦、資源池化、無損通訊、液冷散熱等,一起期要害技能&功能保持搶先,引領職業開展趨勢。該系列技能也獲得了2018年我國國家專利技能優秀獎。
百度X-MAN的面世與升級為人工智能范疇處理算力提高問題做出了重要貢獻,成為人工智能開展真實的加快器。目前,X-MAN系列產品已在百度完成規模化布置,廣泛運用于語音辨認、核算機視覺、天然語音處理、無人車等根底AI技能的深度學習模型練習;X-MAN與FAST-F AI存儲體系、百度AI核算練習渠道KongMing一起構建了端到端的練習計劃,將練習時刻從周級別縮短到天級別,效勞于百度DuerOS、Apollo、百度智能云等中心事務,助力百度AI戰略的快速落地。
AI推理加快引擎Anakin是另一個招引了許多業界重視的百度AI產品。它處理的痛點是可以跨過不同的深度學習練習結構。近幾年,為了處理AI核算力提高問題,業界出現出了許多優秀的處理計劃。但是帶來的問題是,不同練習結構需求的運營環境不同。這意味著每個練習結構在每個硬件渠道下都需求各建立一套運行環境,乃至還有些結構是不支撐某些硬件渠道的。他們之間的不互通,使得許多AI運用落地受到了阻止。
Anakin主要由獨立的Parser、靈敏的Framework和高效的Saber核算庫三部分組成。獨立的Parser完成了將不同練習結構生成的model轉換為Anakin核算圖的解析功能,它支撐任何練習結構生成的model解析,屏蔽了不同練習結構的差異。靈敏的Framework屏蔽了底層硬件的差異,用于完成與硬件無關的一切操作,如網絡構建、圖融合、資源復用、核算調度等操作,方便用戶運用。高效的Saber核算庫是由很多的匯編級優化代碼組成,支撐許多業界產品,如Intel-CPU、NV-GPU、AMD-GPU和ARM等。
Anakin不僅一起支撐CPU和GPU base的多種主流核算架構(如X86/ARM、以及多種GPU架構),還一起支撐兩款最新的NPU架構(寒武紀和比特大陸)。 Anakin盡可能為開發者屏蔽異構核算的差異,方便用戶快速布置、享受杰出功能。
目前Anakin已在百度查找、百度地圖標注、百度無人車、人臉閘機、全民小視頻等許多百度明星產品中實際落地,是真實的經歷過大規模工業布置考驗的AI推理加快引擎。
百度AI核算體系作為AI核算根底技能處理計劃,也一起運用到了百度智能云的AI相關產品中,比方百度智能云GPU云主機、百度智能云Infinite AI開發渠道、百度智能云ABC一體機等,使各行各業都能享受到百度AI核算根底技能立異帶來的紅利。