華為Cloud & AI產(chǎn)品與服務(wù)CTO張順茂
發(fā)表主題演講
張順茂演講全文如下
前段時間在飛機(jī)上看了部電影“海王”，一句臺詞打動了我：you can even talk under water.有什么不可能的呢？什么都是可能的！尤其是在這個技術(shù)爆發(fā)的時代，我們的開發(fā)者們擁有了更強(qiáng)大的力量去改變這個世界，把更多的不可能變?yōu)榭赡埽埧纯次覀兊拈_發(fā)者們都干了些什么吧。
開發(fā)者正在將"不可能"變成"可能"
今年夏天，亞馬遜森林的熊熊大火燃燒著地球的“肺”，牽動著億萬人們的心，怎么保護(hù)龐大的雨林不被濫砍濫伐，保護(hù)地球的“肺”？怎么保護(hù)動物的健康成長？Rainforest Connection雨林保護(hù)組織利用華為手機(jī)收集電鋸、汽車和動物的聲音，在華為云端通過大數(shù)據(jù)分析和AI處理就能實時監(jiān)聽雨林，給雨林帶來“新聲機(jī)”。
今年夏天，亞馬遜森林的熊熊大火燃燒著地球的“肺”，牽動著億萬人們的心，怎么保護(hù)龐大的雨林不被濫砍濫伐，保護(hù)地球的“肺”？怎么保護(hù)動物的健康成長？Rainforest Connection雨林保護(hù)組織利用華為手機(jī)收集電鋸、汽車和動物的聲音，在華為云端通過大數(shù)據(jù)分析和AI處理就能實時監(jiān)聽雨林，給雨林帶來“新聲機(jī)”。
土地荒漠化是我們面臨的嚴(yán)峻挑戰(zhàn)！華東師范大學(xué)張新宇教授團(tuán)隊通過機(jī)器學(xué)習(xí)，使得AI機(jī)器人可在荒漠中判斷需規(guī)避的植被和障礙物，自動完成挖洞、放苗和澆水，并且極大提高植被的成活率。這些機(jī)器人就像“綠色魔法師”，讓荒漠逐漸變成綠洲。
垃圾分類是一項令人煩惱的日常工作。ABB的“超級拾荒者”機(jī)器人解決了這個煩惱。機(jī)器人會在移動的傳送帶上快速滑動，從垃圾中分揀出玻璃、塑料容器和其他可回收物品，然后把它們?nèi)舆M(jìn)不同的容器內(nèi)。在分類過程中，機(jī)器人也會積累經(jīng)驗，變得越來越聰明，令分類準(zhǔn)確度不斷提升，越來越高效。
如何讀懂古籍文卷中的文化密碼？在數(shù)字中國創(chuàng)新大賽中，來自華南理工大學(xué)的學(xué)生們使用ModelArts訓(xùn)練了古文檢測及識別模型，結(jié)合OCR服務(wù)解決了古文難以識別的問題。中文古籍識別準(zhǔn)確率已超過98%。
我們年輕的工程師怎么能開發(fā)出這樣驚艷的產(chǎn)品？將那么多“不可能”變成“可能”，從而讓世界更美好，讓每個人、每個家庭、每個組織更加美好。
“硬核雙引擎”為開發(fā)者提供了澎湃動力
華為硬核Kunpeng、Ascend雙引擎為開發(fā)者提供了澎湃的動力，我們?yōu)殚_發(fā)者提供了最底層、最原始、最強(qiáng)勁的通用算力和AI算力，這種強(qiáng)大的算力就是大家能夠展翅高飛的保障。進(jìn)一步，我們將這種算力開源、開放出來，徹底開放，從OS到DB，從編譯器到開發(fā)工具，從AI算子到AI開發(fā)平臺，我們堅信，算力源頭的開源開放是保障開發(fā)者蓬勃生機(jī)的唯一路徑。
華為擔(dān)綱建設(shè)基礎(chǔ)軟硬件
國家新一代人工智能開放創(chuàng)新平臺
中國科技部在2019世界人工智能大會上宣布，華為擔(dān)綱建設(shè)基礎(chǔ)軟硬件國家新一代人工智能開放創(chuàng)新平臺。依托華為自研的芯片、板卡、基礎(chǔ)算子庫、基礎(chǔ)框架軟件，進(jìn)行全棧優(yōu)化，并提供全流程的、開放的基礎(chǔ)平臺類服務(wù)；使能云、邊、端等各個場景、各個領(lǐng)域的應(yīng)用創(chuàng)新；讓各行各業(yè)、廣大科研機(jī)構(gòu)可以專注于自己的行業(yè)知識、研究領(lǐng)域，從而助力各行各業(yè)、廣大科研機(jī)構(gòu)來構(gòu)建自己的AI應(yīng)用與系統(tǒng)，加速普惠AI落地。
華為FusionPlant工業(yè)互聯(lián)網(wǎng)平臺入選
2019年跨行業(yè)跨領(lǐng)域工業(yè)互聯(lián)網(wǎng)平臺
今年工信部也公布了跨行業(yè)跨領(lǐng)域工業(yè)互聯(lián)網(wǎng)平臺清單，華為FusionPlant工業(yè)互聯(lián)網(wǎng)平臺入選。FusionPlant平臺是華為基于30年ICT技術(shù)積累和制造經(jīng)驗打造的開放式平臺。FusionPlant平臺以華為云鯤鵬計算為基礎(chǔ)，疊加華為人工智能，物聯(lián)網(wǎng)等技術(shù)，構(gòu)建工業(yè)領(lǐng)域的黑土地，與行業(yè)合作伙伴一起幫助企業(yè)上云上平臺，實現(xiàn)企業(yè)的網(wǎng)絡(luò)化、數(shù)字化、智能化，最終提質(zhì)降本增效。
端云同構(gòu)
加速海量移動應(yīng)用云化
5G時代，海量移動智能終端應(yīng)用正從端側(cè)走向云化，如果終端APP遷移到x86服務(wù)器上，云和端計算架構(gòu)不同，需通過指令翻譯進(jìn)行代碼轉(zhuǎn)換，通常存在40%左右的性能損耗。
華為云提供了鯤鵬原生云手機(jī)解決方案，使得從云到端都運行著同一套指令集，安卓應(yīng)用云化時，性能無損失。Cocos等游戲平臺正跟華為合作，將安卓游戲跑在華為鯤鵬云服務(wù)上，為用戶帶來更暢快的游戲體驗，用戶也不再依賴于高配智能終端。華為云手機(jī)加速了華為新手機(jī)產(chǎn)品的研發(fā)，鯤鵬云測試平臺替代了真機(jī)農(nóng)場，80%測試用例自動化完成，測試回歸效率提升1倍。
加解密引擎提升Web應(yīng)用HTTPS性能
信息安全已經(jīng)成為人們關(guān)注的熱點，HTTPS流量已經(jīng)超過全球web流量的90%，怎么提升加解密的性能？目前x86服務(wù)器通常采用PCIe加密卡方式進(jìn)行加速，而鯤鵬CPU采用了內(nèi)置加解密引擎，片上總線互聯(lián)，京東數(shù)科的web應(yīng)用HTTPS短連接實測性能提升了45%。
一次開發(fā)，全場景部署
讓智能計算無所不在
未來的計算將無處不在，智能將無所不及，開發(fā)者怎么才能開發(fā)一次軟件就能端邊云全場景部署？華為構(gòu)建了覆蓋端邊云全場景的解決方案， 讓開發(fā)者“一次開發(fā)、全場景部署”：
- 統(tǒng)一運行環(huán)境和指令集，端邊云都同時支持鯤鵬通用計算和昇騰AI計算；
- 華為主導(dǎo)貢獻(xiàn)了開源社區(qū)KubeEdge，可以在邊緣運行與云端Kebernetes同架構(gòu)但輕量級的容器；
- 端邊云的智能計算都是基于統(tǒng)一的達(dá)芬奇架構(gòu)，云端或者邊緣訓(xùn)練的模型都可大可小，自由流動。
- 端邊云計算協(xié)同在智慧金融、智慧零售、智能電網(wǎng)、高速公路自由流等場景中已經(jīng)得到了廣泛的應(yīng)用。
已有的軟件
如何從X86遷移到鯤鵬計算平臺？
JAVA/Python等解釋性的軟件無需修改源代碼，只需安裝運行ARM版本JVM即可。C/C++，GO語言的軟件需要用鯤鵬編譯器重新編譯，也可能需要修改部分代碼，通過調(diào)優(yōu)可以提高性能。如果是匯編語言，則需要重新編寫；或者無代碼的應(yīng)用，則可以通過指令翻譯完成軟件的移植。
華為鯤鵬開發(fā)套件
為了支持開發(fā)者在鯤鵬計算平臺上簡單，高效地進(jìn)行軟件開發(fā)或遷移，今天我們正式發(fā)布華為鯤鵬開發(fā)套件，包含編譯器和三個工具共四個組件。
為開發(fā)者提供云上軟件開發(fā)平臺
華為云DevCloud為開發(fā)者提供全流程的軟件開發(fā)工具，方便開發(fā)者在云上構(gòu)建基于鯤鵬計算平臺的軟件。
鯤鵬開發(fā)套件的編譯器，已經(jīng)集成在DevCloud，開發(fā)者使用DevCloud即可編譯出能在鯤鵬平臺上運行的軟件，編譯過程中，DevCloud可以自動從華為開源鏡像站獲取最新的軟件包和依賴庫，構(gòu)建完成后，開發(fā)者可使用DevCloud將軟件自動部署到華為云鯤鵬ECS或容器等云服務(wù)上。
DevCloud還提供提供可視化、可定制的自動交付流水線，幫助開發(fā)者將需求、開發(fā)、構(gòu)建、部署、測試全流程串起來，縮短軟件交付周期。
華為眾多開源項目托管在DevCloud的CodeHub上，在此我呼吁廣大開發(fā)者能積極參與這些開源項目，大家一共建鯤鵬生態(tài)。
華為云普惠AI致敬開發(fā)者
AI已經(jīng)是個熱門技術(shù)，正在應(yīng)用于各行各業(yè)，能夠幫助我們解決以前不能解決的問題，或者更高效的解決問題，產(chǎn)生巨大的價值。
但是，目前AI技術(shù)復(fù)雜，人才短缺，算力稀缺，昂貴，如何讓廣大的開發(fā)者們會用、好用、善用AI，而且像用水、用電一樣用得到、用得起AI？華為云普惠AI致敬廣大的開發(fā)者，無論你是AI小白還是資深玩家都可以得到友好的支持和服務(wù)。
對于沒有任何AI開發(fā)經(jīng)驗的小白用戶，ModelArts的自動學(xué)習(xí)技術(shù)可以讓小白用戶三步輕松完成開發(fā)：
- 比如上傳圖片數(shù)據(jù)到訓(xùn)練數(shù)據(jù)集，并簡單標(biāo)注數(shù)據(jù)，工人是否戴了安全帽；
- 一鍵啟動AI模型訓(xùn)練，系統(tǒng)自動選擇網(wǎng)絡(luò)結(jié)構(gòu)，并自動訓(xùn)練生成模型；
- 訓(xùn)練完成后，點擊部署上線，模型即可運行提供服務(wù)，再輸入一張圖片，系統(tǒng)即可告訴你工人是否戴了安全帽。
為了幫助AI工程師高效開發(fā)高性能的AI應(yīng)用，昇騰提供了自研的Mindspore計算框架，同時也支持Tensorflow、Pytorch等主流框架，內(nèi)置豐富的算子庫和模型算法，你可以自主選擇匹配業(yè)務(wù)需求的模型，為了提高計算效率，你可以調(diào)整卷積算子Conv、拼接算子Concat的I/O通道，也可以選擇融合算子（Conv+Bn+Scale+Relu），還可以優(yōu)化特征圖和步長的大小，優(yōu)化超參配置。
基于全球最快的AI訓(xùn)練集群Atlas 900，可廣泛應(yīng)用于科學(xué)研究與商業(yè)創(chuàng)新，讓研究人員更快的進(jìn)行圖像、語音等 AI 模型訓(xùn)練。
如果在神經(jīng)網(wǎng)絡(luò)模型構(gòu)建時，框架中提供的預(yù)制標(biāo)準(zhǔn)算子庫無法滿足需求或者性能要求，資深A(yù)I開發(fā)者就可以基于昇騰的TBE張量加速引擎自定義新的算子，包括編寫算子計算邏輯，數(shù)據(jù)形狀切分，數(shù)據(jù)流的規(guī)則，內(nèi)存分配，以及矩陣、向量等計算單元的分配。
通過高效算子開發(fā)，深度玩家可以更靈活，更快速的進(jìn)行AI技術(shù)創(chuàng)新和科研探索，創(chuàng)造新型的神經(jīng)網(wǎng)絡(luò)和創(chuàng)建特定領(lǐng)域的AI框架。
華為“沃土計劃2.0”全面升級
2015年在華為第一屆開發(fā)者大會上，華為發(fā)布了“沃土計劃”，5年投資10億美金，使能并幫助全球開發(fā)者基于華為開源開放的產(chǎn)品和服務(wù)進(jìn)行技術(shù)與商業(yè)創(chuàng)新。
- 在過去的5年里，我們逐步開源開放了華為的CT產(chǎn)品，IT產(chǎn)品，云服務(wù)，昇騰AI計算，鯤鵬計算能力等等；
- 在全球建立了21個OpenLab；
- 在華為官網(wǎng)和華為云服務(wù)上開通了開發(fā)者社區(qū)，華為云學(xué)院；
- 線下每個月都有城市峰會、技術(shù)沙龍、開發(fā)者大賽；
- 每天都有華為技術(shù)認(rèn)證和人才認(rèn)證。
今天，我很高興看到，我們已經(jīng)有130萬注冊開發(fā)人員，有14000多家企業(yè)開發(fā)者伙伴正在華為黑土地上進(jìn)行產(chǎn)品與方案創(chuàng)新，共同為客戶創(chuàng)造價值！
下一個5年，華為沃土計劃2.0將從5大方面進(jìn)行升級：
- 產(chǎn)品方面將重點基于鯤鵬+昇騰兩顆核心處理器，打造開源開放的計算產(chǎn)業(yè)生態(tài)，從OS到DB，從產(chǎn)品服務(wù)到開發(fā)工具鏈都將逐步建立更廣泛的開源開放社區(qū)；
- 打造360度的全方位賦能體系，從華為云線上社區(qū)，到線下OpenLab、城市站開發(fā)者沙龍，甚至駐場貼身服務(wù)，我們將讓開發(fā)者體驗到華為的支持無處不在；為開發(fā)者打造一個有溫度、有內(nèi)涵、有智慧的“家”；
- 我們將建立更務(wù)實的產(chǎn)業(yè)聯(lián)盟，推動產(chǎn)業(yè)標(biāo)準(zhǔn)，規(guī)范，示范點，技術(shù)認(rèn)證體系的建設(shè)，共同做大蛋糕；
- 我們將按行業(yè)建設(shè)應(yīng)用生態(tài)，按區(qū)域建設(shè)產(chǎn)業(yè)生態(tài)；
- 我們將進(jìn)一步與教育、科研機(jī)構(gòu)合作，讓每個學(xué)生都能學(xué)到鯤鵬和昇騰計算技術(shù)，讓每個科研機(jī)構(gòu)都能加持最強(qiáng)的算力。
比如，面向高校學(xué)生，我們將陸續(xù)發(fā)布華為智能計算技術(shù)系列叢書，作為學(xué)生選修教材：包括鯤鵬通用處理器系列和昇騰AI處理器系列和云原生軟件開發(fā)方法系列。
今天，我們將正式發(fā)布昇騰AI系列第一本教材，感謝本書的作者梁教授上臺親自為大家介紹一下《昇騰AI處理器架構(gòu)與編程》這本書。
- 沃土計劃2.0將繼續(xù)在LEADS理念的指導(dǎo)下（Lab as Service、End-to-End、Agile、Dedicated、Social），針對開發(fā)者開發(fā)歷程的了解、學(xué)習(xí)、構(gòu)建、上市這四個階段，優(yōu)化我們的流程、社區(qū)、資源配置等，使開發(fā)者在華為平臺上更高效地成長。我們也將圍繞開發(fā)者學(xué)習(xí)、產(chǎn)品構(gòu)建、產(chǎn)品上市三個階段，分別設(shè)立LGF（學(xué)習(xí)成長基金）、PDF（產(chǎn)品開發(fā)基金）、MDF（市場發(fā)展基金）三類基金。開發(fā)者的每一步成長，每一個階段，我們都伴隨在你的身邊，給予你及時的支持。
- 沃土計劃2.0，還將把開發(fā)者細(xì)分為四類：高校科研機(jī)構(gòu)、個人開發(fā)者、初創(chuàng)企業(yè)、企業(yè)開發(fā)者，針對每類開發(fā)者我們都會有更貼心的使能與支持計劃，比如學(xué)校將會享受到免費的學(xué)習(xí)券及更優(yōu)惠的設(shè)備支持等。
- 沃土計劃2.0提供的扶持資源包括：鯤鵬開發(fā)樣機(jī)、昇騰訓(xùn)練卡、云服務(wù)代金券，OpenLab，培訓(xùn)與認(rèn)證服務(wù)，開發(fā)者大賽，ISV應(yīng)用遷移技術(shù)支持，華為FAE開發(fā)支持服務(wù)，華為認(rèn)證，ISV營銷活動與樣板點支持等。
華為還將通過開發(fā)者沙龍、產(chǎn)業(yè)對接會、華為云市場、產(chǎn)業(yè)創(chuàng)新中心、沃土工場，營銷活動等多種手段，為開發(fā)者對接客戶、伙伴資源，努力建設(shè)一個多樣性、有活力、共生共榮的生態(tài)網(wǎng)絡(luò)，使每一個加入華為生態(tài)平臺的開發(fā)者，不僅能獲得技術(shù)能量、實現(xiàn)創(chuàng)新，還能找到朋友、發(fā)現(xiàn)商機(jī)，將夢想從不可能變成可能！
下面，將有請高校、合作伙伴以及開發(fā)者代表上臺，共同發(fā)布“沃土計劃2.0”！未來五年，公司已經(jīng)決定投入15億美金，全球發(fā)展500萬開發(fā)者，切實落實沃土計劃2.0！助力我們的開發(fā)者與鯤鵬共展翅，昇騰九萬里！
作為沃土計劃2.0的一部分，我們明年3月份將增加一場專門面向開發(fā)者的大會，那將是一場專屬于我們開發(fā)者的盛會，期待明年3月深圳見！
