打破網絡數據孤島，實現AI模型共建

聯邦學習，顧名思義是指各個參與聯邦的用戶共建一個模型，模型由各聯邦用戶共同參與和貢獻，得到的模型能力由各聯邦用戶共享。相對于單個用戶訓練的模型由于數據分布問題，只收集到部分訓練數據，模型效果不夠理想。利用各聯邦用戶的數據訓練的共同模型，在訓練的過程中，一系列算法保證了數據本身不會離開各個聯邦用戶，貢獻的只是模型的改變量，保證了用戶信息的安全性，預測效果也往往會好于每個聯邦用戶單獨訓練的模型。這一特性在網絡領域數據分布不均的場景下尤為重要。

聯邦學習為什么可以具備以上特性，因為其本質是一種加密的分布式機器學習技術。不同于分布式機器學習的是，它可以讓參與聯邦學習的各用戶在不共享本地數據的前提下共建AI模型。其核心是：參與方在本地進行模型訓練，然后僅將模型更新部分加密上傳到云端，并與其它參與方的模型更新部分進行匯聚整合，形成一個公共的模型，這個公共的模型再由云端下發給各參與方，通過反復的本地訓練以及反復的云端整合，最終得到一個更好的AI模型。

電信網絡領域為何需要聯邦學習

運營商在其運營運維的網絡里有大量的智能設備，設備每時每刻都在產生大量的數據，由于數據是要保存在局點內部的，將各局點數據直接拿出來是萬萬不能的事情。如果使用局點內部的數據直接訓練，有時候會由于數據分布不均勻，訓練的模型泛化能力很差。因此我們很有必要啟用聯邦學習的黑科技，來解決這些問題。聯邦學習主要解決三方面的問題：

1、? 數據分布不均：數據樣本在各地分布不均，樣本量少的局點訓練得出的AI模型效果較差，AI模型應用的泛化效果沒有保障；

2、? 隱私保護：由于數據安全、隱私保護（如歐盟的GDPR）造成的數據不出本地，形成的數據孤島問題，傳統的機器學習無法匯聚完整的訓練數據，從而無法訓練出較優的模型；

3、? 分布式訓練：邊緣計算能力越來越強，分布式訓練相對于集中訓練，更能提升AI模型生成效率。

聯邦學習充分發揮邊緣節點的計算資源各自基于自身的本地數據進行模型訓練，通過聯邦的機制匯聚模型的更新部分，整合生成公共的AI模型，從而實現各參與方在不共享本地數據的前提下共建AI模型。

聯邦學習所使用的技術并不新，但是將分布式訓練、隱私保護等技術結合起來的時候，產生了一種特殊的化學反應，能夠在保護隱私的前提下，進行更廣泛規模的機器學習。該想法一經提出，就引起業界強烈關注，各大企業紛紛打造自己的聯邦學習能力。華為根據這一迫切的需求，打造了NAIE聯邦學習服務，致力于將聯邦學習的能力滲透到運營商業務中，構建更加智能的網絡。

聯邦學習在電信網絡領域中遍地開花

華為NAIE聯邦學習服務助力華為CloudMSE基于SA(Service awareness)技術的業務管理

基于SA技術的業務管理分為如下幾種類型：

l??識別業務流量后的帶寬控制

l??識別業務流量后的阻塞控制

l??識別業務流量后的業務保障

例1：A地區的VOIP業務管控

A地區基于國情考慮，不允許使用VOIP類軟件，但VOIP應用種類繁多、版本或協議更新頻繁，很多應用還是加密的，需要SA技術支持對于VOIP軟件的檢測和控制。

圖 1 VOIP業務管控

例2：熱點共享行為控制

隨著網絡的發展，數據流量套餐包所包含的流量逐漸擴大，從1GB到40GB，到不限量。如果簽約不限量套餐的用戶為其他用戶開啟熱點共享，則會給運營商帶來收入損失，需要SA技術支持對于熱點共享行為的檢測，用以控制網絡流量的非正常性過快增長。

圖2 Tethering流量控制

例3：基于時段的P2P/VOIP業務控制和帶寬管理

P2P、VoIP應用占用了很大的網絡帶寬資源，并且很多是對網絡資源進行“惡意的”占用，導致網絡不同程度的出現擁塞，而且不同時段的網絡擁塞情況也不相同。為了確保用戶業務正常使用，需要SA技術支持按照時段不同(忙時/閑時)對P2P/VOIP業務流按照不同的策略進行業務控制和帶寬管理。

圖 3 基于時段的P2P/VOIP業務控制和帶寬管理

例4：Domain Fronting反SA流量識別

DomainFronting是目前最強大的反SA技術，被大量VPN和VoIP應用使用。DomainFronting的關鍵思想是在不同的通信層使用不同的域名，在HTTP(S)請求中，目標域名通常顯示在三個關鍵位置：DNS查詢、TLS（SNI）拓展及HTTP主機頭中。通常，這三個地方都會是我們要訪問的域名地址，然而，在"DomainFronting"請求中，DNS查詢以及SNI攜帶了一個域名（前域），而在HTTPhost頭中攜帶了另一個域名（隱蔽的，被禁止訪問的域名），簡單的圖例如下：

圖 4 Domain Fronting反SA流量識別

為了應對最為復雜識別場景，CloudMSE從四個不同的維度對流量進行區分。通過聯合四個不同維度的特征，可以達到最精確的流量區分能力，滿足客戶最復雜的流量識別場景。針對不同的流量維度，CloudMSE支持多種不同的具體識別方法，保證識別過程高效、快速的完成。伴隨著流量加密情況的逐步加劇，支撐CloudMSE流量識別的技術從字符串匹配類方法發展到啟發式方法，最終發展到使用最強大AI技術支持華為達到業界頂級的識別精度。

華為NAIE聯邦學習平臺解決了訓練過程中數據不出局以及數據分布不均勻的問題，打通了有安全保障的分布式訓練，使流量識別準確率得到提升，識別工作由純人工變為自動化，識別庫更新更加智能。

以上的能力實現，是和華為NAIE聯邦學習平臺的穩定、便捷、通用等性能分不開的，接下來我們就來看聯邦學習平臺的功能和內置算法。

華為NAIE聯邦學習服務有哪些能力？

華為NAIE聯邦學習平臺，提供了一套自動化的聯邦學習服務，實現了一鍵式從創建聯邦實例到管理邊緣節點的平臺服務。該服務可以讓邊緣用戶自由加入退出，用戶只要下載一個客戶端，就可以加入聯邦學習實例，和眾多聯邦用戶一起共建更強大的AI模型。

NAIE聯邦學習平臺的能力

華為NAIE聯邦學習平臺提供了一鍵式創建聯邦學習實例，用戶只要下載一個客戶端就可以輕松加入退出聯邦學習，平臺對聯邦學習的整個過程達到了可視化的管理。聯邦學習中的角色包括聯邦節點（中心服務器/Server）和邊緣節點（聯邦用戶/Client）。用戶的一些idea可以通過創建聯邦實例來發起眾籌式訓練，其他用戶只要下載一個客戶端即可輕松加入訓練，并能夠查看訓練狀態，享受共同訓練的成果。華為NAIE聯邦學習平臺具有聯邦實例管理能力，邊緣節點管理能力和運行聯邦實例能力。具體的能力分別為：

聯邦節點管理

邊緣節點管理

聯邦實例運行

平臺內置的算法

華為NAIE聯邦學習平臺當前以橫向聯邦為基礎，內置了眾多聯邦學習能力，包括聯邦匯聚，梯度分叉，多方計算，壓縮算法等能力。這些能力在實際數據上被證明有效，訓練出共同的AI模型，能夠達到所有數據共同訓練出AI模型的效果，優于每個聯邦用戶單獨訓練的效果。算法能力還在不斷的擴充，今后還會對縱向聯邦學習能力提供支持。

有了這些能力，用戶可以通過各種方式發起聯邦學習任務，從中受益。

AI模型開發者，基于自己擁有的數據訓練自己的AI模型，由于數據樣本較少，訓練得到的模型效果始終達不到預期，這個時候他可以尋求與自己應用類型相似的其它項目，發起聯邦學習。

AI交付項目群經理，自己手頭有很多應用類型相似的AI交付項目，但由于數據不出局的限制，各個項目的AI模型都基于各自的數據獨立訓練，由于數據樣本分布不均，模型應用效果參差不齊。此時該項目經理發起聯邦學習，將各個項目作為聯邦成員一起來共建AI模型。

—— 展 望 ——

華為NAIE聯邦學習服務雖然還處在剛剛起步的階段，但是其能力和后勁十足，現實中很多應用場景都可以輕松改造成聯邦學習平臺可承載的模式。借助平臺隱私保護的能力，和分布式訓練的能力，今后的網絡運營必將更加自動化和智能化。

網絡智能體

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。