區塊鏈:科普：聯邦學習的分類和應用場景_STEP

前言

上一篇我們講述了人工智能，機器學習與聯邦學習的關系。

這篇我們將繼續探索聯邦學習方法的分類。聯邦學習方法被分為橫向聯邦學習、縱向聯邦學習和遷移聯邦學習三類，適用于解決不同的實際問題。

橫向聯邦學習

在兩個數據集的用戶特征重疊較多而用戶重疊較少的情況下，把數據集按照用戶維度切分，并取出雙方用戶特征相同而用戶不完全相同的那部分數據進行訓練。這種方法叫做橫向聯邦學習。

▲?應用場景

橫向聯邦學習的本質是樣本的聯合，適用于參與者間業態相同但觸達客戶不同，即特征重疊多，用戶重疊少時的場景，比如不同地區的銀行間，他們的業務相似，但用戶不同。

人大附中物理老師李永樂科普拜占庭將軍問題和區塊鏈:5月14日，人大附中物理老師、科普視頻網紅李永樂在其公眾號發布視頻《拜占庭將軍問題是什么？區塊鏈如何防范惡意節點？》。李永樂老師在視頻中對拜占庭將軍問題和區塊鏈進行了講解，他表示，拜占庭將軍問題本質上指的是，在分布式計算機網絡中，如果存在故障和惡意節點，是否能夠保持正常節點的網絡一致性問題。在近40年的時間里，人們提出了許多方案解決這一問題，稱為拜占庭容錯法。例如蘭波特自己提出了口頭協議、書面協議法，后來有人提出了實用拜占庭容錯PBFT算法，在2008年，中本聰發明比特幣后，人們又設想了通過區塊鏈的方法解決這一問題。區塊鏈通過算力證明來保持賬本的一致性，也就是必須計算數學題，才能得到記賬的權力，其他人對這個記賬結果進行驗證，如果是對的，就認可你的結果。與拜占庭問題比起來，就增加了叛徒的成本。[2020/5/14]

比如，有兩家不同地區銀行?—?上海與杭州兩地的兩家銀行，它們的用戶群體分別來自上海與杭州的居住人口，用戶的交集相對較小。由于銀行間的業務相似，記錄的用戶特征大概率是相同的。因此，橫向聯邦學習可以被考慮用來構建聯合模型。

動態 | 新浪財經：官媒針對區塊鏈的報道從科普宣傳轉向打假監管:據新浪財經今日消息，“1025新政”滿月，一個月間，官媒對區塊鏈的態度風向已轉。據11月初的一項統計，七家黨媒在新政一周內發布了65篇直接相關報道，當時文章中的關鍵詞是數據、產業、安全、創新等，大量文章偏向于科普區塊鏈的概念以及應用介紹，提醒警惕虛擬貨幣炒作的僅有3篇。近期，官媒的批評焦點則紛紛指向借區塊鏈之名進行的虛擬貨幣發行和炒作行為。據統計，新華網、人民網收錄轉載的，以打擊虛擬貨幣或揭露假借區塊鏈行騙為主題的文章，自10月25日到11月25日午間，共28篇；其中，11月19日至11月25日的一周內就高達15篇。這些文章主要圍繞三個觀點展開：厘清區塊鏈和虛擬貨幣的關系，說明二者概念不等；打擊偽“區塊鏈”騙局，或是虛擬貨幣騙局揭露；提醒民眾，區塊鏈不能成為炒作的噱頭，更不是行騙的招牌，需警惕此類活動，理性投資。[2019/11/26]

于2017年，Google提出了一個針對安卓手機模型更新的數據聯合建模方案：在單個用戶使用安卓手機時，不斷在本地更新模型參數并將參數上傳到安卓云上，從而使特征維度相同的各數據擁有方建立聯合模型的一種聯邦學習方案。

動態 | 央行官微舊文重發“再科普”：范一飛詳解數字貨幣:據中國經濟網消息，今日，央行官微公眾號頭條重新發布央行副行長范一飛在2018年1月25日題為《關于央行數字貨幣的幾點考慮》的文章，對央行數字貨幣再次進行科普。同時，微信公眾號第二條發布支付司副司長穆長春8月10日在第三屆中國金融四十人伊春論壇上的演講。近年來，各主要國家和地區央行及貨幣當局均在對發行央行數字貨幣開展研究，新加坡央行和瑞典央行等已經開始進行相關試驗，人民銀行也在組織進行積極探索和研究。[2019/8/21]

▲?學習過程

Step1.參與方各自從協調方上下載最新模型；

Step2.每個參與方利用本地數據訓練模型，加密梯度上傳給協調方，協調方聚合各用戶的梯度以更新模型參數；

聲音 | 火星人朋友圈科普RAM:火星人在朋友圈發文稱，“什么是RAM？簡單來說就是EOS這個國家的土地，所有的經濟行為都離不開土地。只要EOS的BP們能投票形成一個穩定的供給預期，并且不改變目前的Bancor算法，那么RAM后續的價格有可能會像北上廣深的房價走勢。房價下跌不行，房價過快上漲也不行，EOS的生態越來越像某國了，真有意思。”[2018/7/6]

Step3.協調方返回更新后的模型給各參與方；

Step4.各參與方更新各自模型。

縱向聯邦學習

在兩個數據集的用戶重疊較多而用戶特征重疊較少的情況下，把數據集按照特征維度切分，并取出雙方用戶相同而用戶特征不完全相同的那部分數據進行訓練。這種方法叫做縱向聯邦學習。

▲?適用場景

縱向聯邦學習的本質是特征的聯合，適用于用戶重疊多，特征重疊少的場景，比如同一地區的商超和銀行，他們觸達的用戶都為該地區的居民，但業務不同。

比如，有兩個不同機構，一家是某地的銀行，另一家是同一個地方的電商。它們的用戶群體很有可能包含該地的大部分居民，用戶的交集可能較大。由于銀行記錄的都是用戶的收支行為與信用評級，而電商則保有用戶的瀏覽與購買歷史，因此它們的用戶特征交集較小。縱向聯邦學習就是將這些不同特征在加密的狀態下加以聚合，以增強模型能力的聯邦學習。

▲?學習過程

介紹一種簡單通用的縱向聯邦學習的建模學習過程，加密方式也以半同態加密的PallierEncryption為主。

訓練前：

先采用加密文本對齊的技術手段，在系統內篩選出不同企業之間的共同用戶。

訓練時：

Step1.協調方C向企業A與B發送公鑰，用來加密所需傳輸的數據；

Step2.A和B分別計算和自己相關特征的中間結果，并加密完后進行交互，用來求解各自的梯度結果和損失結果；

Step3.A和B分別計算各自加密后的梯度并添加掩碼后發送給C，同時B計算加密后的損失先發送給C；

Step4.C解密梯度和損失后回傳給A和B，A、B去除掩碼并更新模型。

遷移聯邦學習

在兩個數據集的用戶與用戶特征重疊都較少的情況下，不對數據進行切分，而可以利用遷移學習來克服數據或標簽不足的情況。這種方法叫做聯邦遷移學習。

▲?適用場景

當參與者間特征和樣本重疊都很少時可以考慮使用聯邦遷移學習，如不同地區的銀行和商超間的聯合。主要適用于以深度神經網絡為基模型的場景。

遷移學習的核心是，找到源領域和目標領域之間的相似性。舉一個楊強教授經常舉的例子來說明：我們都知道在中國大陸開車時，駕駛員坐在左邊，靠馬路右側行駛。這是基本的規則。然而，如果在英國、香港等地區開車，駕駛員是坐在右邊，需要靠馬路左側行駛。那么，如果我們從中國大陸到了香港，應該如何快速地適應他們的開車方式呢？訣竅就是找到這里的不變量：不論在哪個地區，駕駛員都是緊靠馬路中間。這就是我們這個開車問題中的不變量。找到相似性?(不變量)，是進行遷移學習的核心。

比如有兩個不同機構，一家是位于中國的銀行，另一家是位于美國的電商。由于受到地域限制，這兩家機構的用戶群體交集很小。同時，由于機構類型的不同，二者的數據特征也只有小部分重合。在這種情況下，要想進行有效的聯邦學習，就必須引入遷移學習，來解決單邊數據規模小和標簽樣本少的問題，從而提升模型的效果。

▲?學習過程

聯邦遷移學習的步驟與縱向聯邦學習相似，只是中間傳遞結果不同。

以上是常見的幾種聯邦學習類型，聯邦學習這件“小事”能用在什么場景中，帶來怎樣的價值，會在下一篇文章中詳細介紹。也歡迎各位與我們一起對以上三種類型的聯邦學習進行更深一步的討論，添加小助手加入技術交流群。

作者簡介

嚴楊

來自數據網格實驗室BitXMesh團隊?PirvAIの修道者

Tags：區塊鏈STEPSTETEP區塊鏈運用的技術中不包括哪一項a共識算法ISTEPSleep EcosystemWingStep

ICP