近日,華爲在深圳正式發(fā)布算力最強的AI處理器Ascend910(昇騰910),同時推出全場景AI計算框架MindSpore。
華爲公司輪值董事(shì)長(cháng)徐直軍在發(fā)布會上表示:華爲自2018年10月發(fā)布AI戰略以來,穩步而有序地推進(jìn)戰略執行、産品研發(fā)及商用進(jìn)程。昇騰910、MindSpore的推出,标志着華爲已完成(chéng)全棧全場景AI解決方案(Portfolio)的構建,也标志着華爲AI戰略的執行進(jìn)入了新的階段。
昇騰910,算力最強AI處理器
徐直軍此次正式發(fā)布的AI芯片是昇騰910,屬于Ascend-max系列。在HC2018上已經(jīng)發(fā)布了其技術規格。實際測試結果表明,在算力方面(miàn),昇騰910完全達到了設計規格,即:半精度 (FP16)算力達到256 Tera-FLOPS,整數精度 (INT8) 算力達到512 Tera-OPS,重要的是,達到規格算力所需功耗僅310W,明顯低于設計規格的350W。
徐直軍表示:昇騰910總體技術表現超出預期,作爲算力最強AI處理器,當之無愧。我們已經(jīng)把昇騰910用于實際AI訓練任務。比如,在典型的ResNet50 網絡的訓練中,昇騰910與MindSpore配合,與現有主流訓練單卡配合TensorFlow相比,顯示出接近2倍的性能(néng)提升。面(miàn)向(xiàng)未來,針對(duì)不同的場景,包括邊緣計算、自動駕駛車載計算、訓練等場景,華爲將(jiāng)持續投資,推出更多的AI處理器,面(miàn)向(xiàng)全場景持續提供更充裕、更經(jīng)濟、更适配的AI算力。
MindSpore,全場景AI計算框架
徐直軍還(hái)發(fā)布了全場景AI計算框架 MindSpore。能(néng)否大大降低AI應用開(kāi)發(fā)的門檻,能(néng)否實現AI無處不在,能(néng)否在任何場景下确保用戶隐私得到尊重和保護,這(zhè)些都(dōu)與AI計算框架息息相關。爲此,去年華爲全聯接大會上,華爲提出,AI框架應該是開(kāi)發(fā)态友好(hǎo)(例如顯著減少訓練時間和成(chéng)本)和運行态高效(例如最少資源和最高能(néng)效比),更重要的是,要能(néng)适應每個場景包括端、邊緣和雲。經(jīng)過(guò)近一年的努力,全場景AI計算框架MindSpore在這(zhè)三個方面(miàn)都(dōu)取得了顯著進(jìn)展。
全場景支持,是在隐私保護日漸重要的背景下,實現AI無所不在越來越基礎的需求,也是MindSpore的重要特色。針對(duì)不同的運行環境,MindSpore框架架構上支持可大可小,适應全場景獨立部署。MindSpore框架通過(guò)協同經(jīng)過(guò)處理後(hòu)的、不帶有隐私信息的梯度、模型信息,而不是數據本身,以此實現在保證用戶隐私數據保護的前提下跨場景協同。除了隐私保護,MindSpore還(hái)將(jiāng)模型保護Built-in到AI框架中,實現模型的安全可信。 在原生适應每個場景包括端,邊緣和雲,并能(néng)夠按需協同的基礎上,通過(guò)實現AI算法即代碼,使開(kāi)發(fā)态變得更加友好(hǎo),顯著減少模型開(kāi)發(fā)時間。以一個NLP(自然語言處理)典型網絡爲例,相比其他框架,用MindSpore可降低核心代碼量20%,開(kāi)發(fā)門檻大大降低,效率整體提升50%以上。通過(guò)MindSpore框架自身的技術創新及其與昇騰處理器協同優化,有效克服AI計算的複雜性和算力的多樣性挑戰,實現了運行态的高效,大大提高了計算性能(néng)。除了昇騰處理器,MindSpore同時也支持GPU、CPU等其它處理器。
爲了更好(hǎo)促進(jìn)AI的應用,徐直軍宣布“MindSpore將(jiāng)在2020年Q1開(kāi)源”,助力每一位開(kāi)發(fā)者,促進(jìn)AI産業生态發(fā)展。
全棧全場景AI解決方案,讓AI無處不在
徐直軍在發(fā)布以上兩(liǎng)款産品之前,首先重申了華爲公司的AI戰略:投資AI基礎研究,在計算視覺、自然語言處理、決策推理等領域構築數據高效(更少的數據需求) 、能(néng)耗高效(更低的算力和能(néng)耗) ,安全可信、自動自治的機器學(xué)習基礎能(néng)力;打造全棧全場景解決方案,提供充裕的、經(jīng)濟的算力資源,簡單易用、高效率、全流程的AI平台;投資開(kāi)放生态和人才培養,面(miàn)向(xiàng)全球,持續與學(xué)術界、産業界和行業夥伴廣泛合作;把AI思維和技術引入現有産品和服務,實現更大價值、更強競争力;應用AI優化内部管理,對(duì)準海量作業場景,大幅度提升内部運營效率和質量。
華爲AI解決方案(portfolio)的全場景,是指包括公有雲、私有雲、各種(zhǒng)邊緣計算、物聯網行業終端以及消費類終端等部署環境。而全棧是技術功能(néng)視角,是指包括Ascend昇騰系列IP和芯片、芯片使能(néng)CANN、訓練和推理框架MindSpore和應用使能(néng)ModelArts在内的全堆棧方案。
徐直軍也回顧了制定以上AI戰略的初衷。華爲定位AI是一種(zhǒng)新的通用目的技術(GPT),如同19世紀的鐵路和電力,以及20世紀的汽車、電腦、互聯網一樣,將(jiāng)應用到經(jīng)濟的幾乎所有地方。同時華爲也認爲AI的應用總體還(hái)處于發(fā)展初期,AI技術和能(néng)力相比于長(cháng)遠期望還(hái)有很大差距。減小甚至消除這(zhè)些差距,加速AI的應用,正是華爲AI戰略的初衷和目标。具體包括緻力于促成(chéng)以下10個方面(miàn)的改變。
通過(guò)提供更強的算力,使複雜模型訓練能(néng)在幾分鍾、甚至幾秒鍾内完成(chéng),而不是今天的數天甚至數周;提供更經(jīng)濟、更充裕的算力,讓算力不再稀缺、不再昂貴,從而不再是AI發(fā)展的制約因素;通過(guò)全場景方案,适應企業不同需要,确保用戶隐私得到尊重和保護,讓AI能(néng)夠部署在任何場景,而不僅僅是公有雲。投資基礎AI算法研究,實現更少的數據需求,即數據高效。也要能(néng)夠基于更低的算力和能(néng)耗,即能(néng)耗高效。通過(guò)AI框架MindSpore和應用使能(néng)ModelArts,大大提升AI自身的自動化水平,減少對(duì)人工的依賴。持續提升模型算法,實現工業生産環境的“工作”優秀,而不僅僅是各種(zhǒng)比拼環境的“考試”優秀。實現模型的閉環、實時更新,保證企業AI應用始終處于最佳狀态。將(jiāng)AI技術與5G、雲、物聯網、邊緣計算、區塊鏈、大數據、數據庫…等技術充分協同,發(fā)揮更大價值。通過(guò)全棧方案一站式平台,使AI成(chéng)爲所有應用開(kāi)發(fā)者甚至所有ICT技術從業人員的一項基本技能(néng),而不是一項隻有具備高級技能(néng)的專家才能(néng)完成(chéng)的工作。通過(guò)全棧全場景技術手段,結合投資開(kāi)放的生态和人才培養,讓AI人才不再短缺。
昇騰310和ModelArts獲得廣泛應用
在華爲全聯接大會2018上,與華爲AI戰略一起(qǐ), 作爲全棧全場景解決方案的首批組件,華爲同時對(duì)外發(fā)布并正式推出了昇騰310 AI芯片 和全流程模型生産服務ModelArts。昇騰310屬于Ascend-mini系列第一顆華爲商用AI SoC芯片,在最大功耗僅8W的情況下,其整數精度(INT8)算力達到16Tops,半精度(FP16)算力達 到8Tops,同時,該芯片中還(hái)集成(chéng)了16通道(dào) 全高清 視頻解碼器,是面(miàn)向(xiàng)邊緣計算場景最強算力的AI SoC。
自發(fā)布以來,基于昇騰310芯片的産品和雲服務獲得廣泛應用。其中,基于昇騰310的MDC和很多國(guó)内外主流車企在園區巴士、新能(néng)源車、自動駕駛等場景已經(jīng)深入合作。基于昇騰310的Atlas系列闆卡、服務器,與數十家夥伴在智慧交通、智慧電力等數十個行業落地行業解決方案。基于昇騰310,華爲雲提供了圖像分析類服務、OCR服務、視頻智能(néng)分析服務等雲服務。對(duì)外提供API達50多個,日均調用量超過(guò)1億次,而且在快速增長(cháng),預計年底日均調用量 超過(guò)3億次。另有超過(guò)100多個客戶使用昇騰310開(kāi)發(fā)定制AI算法。
ModelArts全流程模型生産服務打通了從數據獲取-模型開(kāi)發(fā)-模型訓練-模型部署的全鏈條,可將(jiāng)生産所需的所有服務一站式提供。截止目前,ModelArts已經(jīng)擁有開(kāi)發(fā)者超過(guò)3萬,日均訓練作業任務超過(guò)4000個,32000小時,其中:視覺類作業占85%,語音類作業占 10%, 機器學(xué)習5%。