華為云：邊緣AI方案落地問題探討及調研

工業(yè)界實際業(yè)務和研究需求沒有固定來源？

真實業(yè)務數據集及相關算法難以獲?。?/p>

工業(yè)級邊緣AI系統(tǒng)搭建費時費力？

黑科技算法找不到目標落地場景？

向學界業(yè)界發(fā)出聲音的機會來了！

了解邊緣AI的朋友請直接點擊落地調研傳送門：https://www.wjx.cn/vj/m9RDmtT.aspx

邊緣AI技術趨勢顯現

在云上執(zhí)行機器學習是傳統(tǒng)而廣泛為人所知的方法，基于云側大規(guī)模算力，大部分大型云平臺提供商均已提供機器學習服務。然而，機器學習所需的數據卻往往并非直接從云平臺中產生，而是來自傳感器、手機、網關等邊緣設備。

隨著邊緣設備的廣泛使用和性能提升，將機器學習相關的部分任務遷移到邊緣，也即邊緣AI技術，已成為必然趨勢，甚至能夠同時結合云側算力和邊側數據來完成機器學習任務。2018年，VMware發(fā)布了云環(huán)境擴展到邊緣的框架。微軟除Azure云外，也在物聯(lián)網上投資50億美元，因為“物聯(lián)網最終正在發(fā)展成為新的智能邊緣”。Garner預測，到2022年，50%的企業(yè)生成數據將在傳統(tǒng)集中式數據中心或云之外創(chuàng)建和處理，高于2018年的不到10%，比如工廠內、飛機或石油鉆井平臺上、零售店或醫(yī)療器械中。

邊緣AI技術挑戰(zhàn)

機器學習服務將邊緣產生的數據轉換為知識的過程中，首先需要在邊緣快速響應并處理本地產生的數據。在落地過程中，我們發(fā)現，在連接海量邊緣節(jié)點的邊緣云時代，隨著AI服務與邊緣用戶的距離縮短，通用AI原本部分技術挑戰(zhàn)在邊緣場景下變得更加尖銳。這里總結了四項挑戰(zhàn)：

1、資源受限：相對于便宜、按需獲取的云端資源，邊側資源包括計算設備、供電設備、部署場地面積、AI開發(fā)環(huán)境等往往是有限或者異構的，邊側服務框架流程需要應對并兼容多種情況，建設與維護成本更高。

2、數據孤島：邊緣存在天然的地理分布性。AI算法在工業(yè)應用時，往往面臨數據無法共享和數據隱私保護、甚至網絡瓶頸等問題，導致數據集在地理上天然分割，AI算法無法高效、準確地共同使用各個邊緣節(jié)點的數據。傳統(tǒng)集中式AI模式在邊緣場景下各項AI系統(tǒng)性能下降(包括收斂速度, 數據傳輸量, 模型準確度等)。

3、小樣本：單個邊緣通常僅有少量樣本, 尤其在邊側服務啟動初期普遍出現冷啟動問題。同時，邊側大量非結構化樣本的標注也比較困難，標注樣本的數量較低。這導致傳統(tǒng)大數據驅動的統(tǒng)計機器學習方法無法收斂或精度差。

4、數據異構：數據集內存在多種特征、模型或標注分布，直接導致邊緣測試樣本的統(tǒng)計分布與訓練集差異過大（也稱Non-IID或OOD），使得通用AI模型在不同邊緣的不同情境性能顯著下降。對于同個租戶，業(yè)務繁多也往往導致不同輸入輸出的算法和數據復雜多樣（也稱長尾算法或長尾數據），此時邊云協(xié)同AI服務框架流程需同時應對和兼容相應業(yè)務數據，并統(tǒng)一權衡實現資源高效調度。

以樓宇空調節(jié)能參數推薦場景為例：

1、 描述：冷機有多組參數可調，節(jié)能的關鍵是預測不同參數組合下的冷機能效比，推薦滿足制冷條件下的最節(jié)能參數配置。

2、 邊緣智能需求：

a) 新園區(qū)系統(tǒng)啟用，需具備邊側冷啟動能力實現快速交付；

b) 園區(qū)系統(tǒng)本地定制與自動閉環(huán)：邊緣云服務在線采集數據，模型持續(xù)迭代；

c) 園區(qū)設備智能服務離線自治

3、 技術挑戰(zhàn)：

a) 資源受限：園區(qū)邊側設備的數據存儲與處理能力有限，在支撐多個系統(tǒng)服務同時機器學習服務容易卡頓，本地數據也只能保存數月。

b) 數據孤島：同租戶不同樓宇控制乃至電力系統(tǒng)不互通。

c) 小樣本：新園區(qū)系統(tǒng)啟用，需時間積累數據。冷機所有工況下所有參數組合全部運行采樣不可行。

d) 數據異構：不同園區(qū)設備模型差異大，不存在單一通用模型。受工況、壽命等影響，模型隨使用會逐漸變化。

從服務應用層面來講，當前邊緣AI具有如下特點：

AR、VR、互動直播、視頻監(jiān)控等基于人機交互的多媒體行業(yè)場景下以非結構化數據為主。非結構化數據是指難以轉化為便于信息系統(tǒng)進行語義解析的數值或統(tǒng)一格式的數據，如圖像、文本等，通常由人類直接處理。主要采用深度神經網絡方法。四大挑戰(zhàn)中最關鍵的部分在于由于未標注數據量大導致的標注樣本少、復雜系統(tǒng)下不相稱的邊側資源受限。

工業(yè)、能源、金融等基于傳統(tǒng)電子信息系統(tǒng)的行業(yè)場景下以結構化數據為主。結構化數據是指便于信息系統(tǒng)進行語義解析的數值或統(tǒng)一格式的數據，如數據庫表格等，可由信息系統(tǒng)直接處理。主要使用非深度神經網絡的機器學習算法，其算法建模方式多樣，與業(yè)務相關性高。四大挑戰(zhàn)中最關鍵的部分在于邊側小樣本、跨邊數據孤島，以及數據異構下的服務可靠性乃至可解釋性等。

KubeEdge社區(qū)一直密切關注邊緣AI相關挑戰(zhàn)。KubeEdge是業(yè)界首個云原生邊緣計算框架、云原生計算基金會內部唯一孵化級邊緣計算開源項目。KubeEdge在全球已擁有800+貢獻者和60+貢獻組織，在Github獲得4.5k+Stars和1.3k+Forks。作為KubeEdge中唯一的AI特別興趣小組（Special Interest Group），KubeEdge社區(qū)SIG AI致力于使能AI應用在邊緣更好地運行，聚焦邊緣AI技術討論、API定義、參考架構、開源實現等。針對上述四大挑戰(zhàn)，當前已開源邊緣智能平臺Sedna及其跨邊云的協(xié)同推理、聯(lián)邦學習、增量學習和終身學習特性。

調研落地挑戰(zhàn)

當前學界業(yè)界各團隊的方案落地與成果轉化到產業(yè)的進程正在緊鑼密鼓地進行。很多團隊已經遇到各式各樣的困難，比如數據集難以獲取、通用方案無法滿足特定業(yè)務、缺乏商業(yè)成功案例等。僅靠技術并不足夠完成落地和產業(yè)轉化。

現在，為了讓更多邊緣AI領域的朋友多快好省地完成技術研發(fā)落地和商業(yè)閉環(huán)，我們準備啟動落地挑戰(zhàn)調研，并結合行業(yè)關注的最新技術趨勢進行社區(qū)內容優(yōu)化，最終集結開源社區(qū)力量為邊緣智能算法開發(fā)者、服務部署者、市場營銷者三種角色提供資源和平臺幫助。社區(qū)將聚集SIG AI中30+單位的各供應商和開發(fā)者，提供數據集開源、預處理與特性算法開源、以及AI工具等行業(yè)內迫切需要的資源，為大家?guī)硪粓鲩_源饕餮盛宴。

作為信奉開源文化的社區(qū)，我們始終都強調“Best ideas win”，領域發(fā)展自然也不例外。為了交出一個更有競爭力和創(chuàng)意的提案，我們希望了解每位關注開源與邊緣智能的朋友對邊緣AI相關方案落地過程遇到困難，然后選取Best idea，對社區(qū)內容進行優(yōu)化，以便為大家呈現一個體現開源開放精神的資源分享社區(qū)生態(tài)。

如果您在邊緣AI落地過程中遇到過問題，

如果您愿意為邊緣AI技術與產業(yè)發(fā)展貢獻一份力量，

歡迎您到這個問卷中來吐槽！

你的意見對開源社區(qū)優(yōu)化至關重要，

吐槽就是力量！

請點擊邊緣AI落地挑戰(zhàn)調查傳送門并提交答案：https://www.wjx.cn/vj/m9RDmtT.aspx

本調查問卷均為選擇題，耗時約3-5分鐘。

在您填寫和轉發(fā)問卷后：

1、待調研結束將收獲調研報告，各團隊將更深地了解在邊緣AI方案落地和行業(yè)轉化遇到的困難。KubeEdge社區(qū)SIG AI也將基于調研報告持續(xù)助力相關困難的解決，有機會化危為機，將技術真正轉化為生產力；

2、參與問卷調研有機會獲得邊緣AI行業(yè)前沿書籍留作紀念（共30份，同等貢獻先到先得）

優(yōu)秀意見：我們將在答卷中選擇最佳反饋發(fā)放紀念品（上限10份）；

積極推廣：轉發(fā)5個社群、分享朋友圈獲10個以上贊等并發(fā)記錄到社區(qū)助手（上方二維碼），我們將為積極推廣者發(fā)放紀念品（上限10份）；

熱心參與：填寫問卷并留下郵箱，我們將隨機抽取問卷參與者發(fā)放余下所有紀念品；

邊緣AI領域相關前沿書籍↑

掃描二維碼

發(fā)送暗號“KubeEdge SIG AI”加入討論群

獲取SIG AI最新進展，技術干貨

KubeEdge社區(qū)SIG AI感謝華為、中國電信研究院、先見科技、哈工大、南洋理工、中山大、華工大、北交大、港理工、武漢大、上交大、中科大等社區(qū)成員在問卷設計過程中的付出！

（調研截止時間：2021年10月30日晚上23:59）

邊緣AI落地挑戰(zhàn)調查傳送門：https://www.wjx.cn/vj/m9RDmtT.aspx

AI 機器學習

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發(fā)現本站中有涉嫌抄襲或描述失實的內容，請聯(lián)系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發(fā)現本站中有涉嫌抄襲或描述失實的內容，請聯(lián)系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。