本發明公開了一種針對聯邦學習神經元梯度攻擊的防御方法,基于強化學習的聯邦系統偏見中毒防御,以保護模型免受梯度中毒攻擊,可以應用于水平聯邦學習。本發明方法在服務器端記錄5個回合的參與者上傳的梯度信息,統計神經元參數的變化趨勢,計算每個用戶每個神經元參數變化趨勢,與其他用戶該神經元參數變化趨勢的Jaccard相似度,查找企圖進行梯度攻擊的惡意用戶,一旦確定了惡意客戶端,服務器將從記錄的5個回合的梯度信息中剔除惡意用戶,重新聚合生成新的全局模型,在保證聯邦學習正常進行的情況下,提高學習系統的安全魯棒性。本發明能夠檢測哪一個是攻擊者操控的客戶端,并且通過模型回檔的方式避免整個聯邦學習系統遭到毒害。
聲明:
“針對聯邦學習神經元梯度攻擊的防御方法” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
我是此專利(論文)的發明人(作者)