首頁 展示資訊 展品查詢

圖機器學習之對抗式個資隱私攻防

回上一頁

圖機器學習之對抗式個資隱私攻防

涉及使用者的圖結構資料(Graph)如社群網路、電子商務推薦系統、金融領域精
準行銷,應用十分廣泛,其中圖機器學習中的圖神經網路(Graph Neural Netwo
rks, GNN)可學習有效的使用者特徵表示向量,準確預測使用者標籤(Node Class
ification)來打造成功的應用,包含廣告投放與個人化推薦。儘管圖神經網路對於
目標任務能帶來效果提升,但它同時能扮演雙面刃,被用來攻擊預測使用者隱私
屬性,即惡意人士可經由訓練圖神經網路來推理出社群網路中的使用者隱私屬
性。
本技術挑戰並回答了基於隱私保護的圖神經網路一重要研究問題:是否可以學習
產生能夠對抗圖神經網路隱私攻擊的擾動圖結構(Perturbed Graph),期待擾動
圖能維持圖機器學習目標任務如使用者貼標的使用效益,同時降低隱私屬性被惡
意攻擊的準確性?我們設計一嶄新的圖資料隱私保護學習任務「抵禦隱私攻擊的
圖神經網路對抗式防禦」,並且對此任務開發出一基於圖神經網路之圖資料擾動
對抗式防禦演算法NetFense來解此任務。NetFense的演算法設計能夠同時達成
三個兼具資料可用性與隱私保護性的效果,包含:理論上證明能夠使得被擾動的
圖資料難以分辨與原圖結構間的差異、維持對於目標節點分類任務的準確性(即保
有圖資料可用性)、降低隱私標籤預測的分類信心程度(即保護節點隱私屬性)。
我們在三個國際公開標準(Benchmark)真實圖資料(Cora, Citeseer, PIT)進行實
驗,並且與state-of-the-art的圖對抗式攻擊模型Nettack進行比較,實驗結果顯
示NetFense針對單目標與多目標隱私保護所產生的擾動圖,能夠維持目標節點分
類任務的準確性,同時降低隱私屬性節點分類的預測信心,並且具備多項良好性
質,如抵禦穩健圖神經網路之隱私攻擊、維護高度值節點之隱私屬性、能夠用於
發現與隱私屬性相關的非隱私屬性。在技術創新上,我們考量使用者隱私的對抗
攻擊與防禦領域帶入圖機器學習領域,將開啟隱私保護圖機器學習的研究方向。
在應用創新上,我們已將NetFense的技術延伸與國內金融業包含永豐與玉山銀行
進行合作,部分進行線上測試,初步結果顯示能在保護使用者隱私下,將外幣定
存金融商品之行銷成交率提高225%。此技術的研究論文發表於AI頂尖期刊IEEE T
KDE 2023。

國立成功大學

《國立成功大學112-116年中程校務發展計畫》期許讓校園成為孕育想像力的場域,以厚實學術研究為基礎,提供想像未來能力高質量習內容, 促進城市發展及世界永續,作為成大放眼百年所承載的關鍵任務。因此,如何鬆綁體制、突破藩籬、深化跨域教學引導永續卓越研究,讓學生在校園求學階段就能意識社會問題,研究成果回應社會的需求與趨勢,積極參與解決全球議題,勇於承擔大學責任,這是成大現今的思考,相關作為亦將體現在本期中程校務發展規劃與實踐。 原文網址: 中程校務發展計畫 https://ord.ncku.edu.tw/article-plan.html 著作權歸作者所有。商業轉載請聯絡作者獲得授權,非商業轉載請註明出處。

聯絡人

  • 姓名:李政德

  • 電話:

  • 地址:701台南市東區大學路1號

Email

其他資訊

  • 展館別:未來科技館 2023AIoT智慧應用 FH09

  • 所屬代表參展單位:國家科學及技術委員會

  • 主要應用領域:資訊與通訊、機械與系統

位置 更多資訊
  • 技術成熟度:實驗室階段

  • 展示目的:研發成果展示

  • 流通方式:自行洽談

詢問

*服務單位

*姓名

*Email

*洽商內容/需求

需求說明

洽商單

*服務單位

*姓名

*Email

*洽商內容/需求

需求說明

敬請期待!

線上展

TOP

會員登入

帳號

密碼

忘記密碼