Model Stealing（模型竊取）

Model Stealing（模型竊取）是一種針對機器學習模型的安全攻擊，攻擊者通過向目標模型發送大量查詢，並根據模型輸出的結果推測模型的內部參數、架構或行為，進而複製或仿製原模型。

Model Stealing的定義：

• 透過系統化的查詢和數據收集，攻擊者可以訓練一個替代模型（shadow model）模仿目標模型行為。

• 可能損害模型所有者的知識產權，並被用於繼續發起其他攻擊如對抗性攻擊、會員推斷攻擊等。

攻擊方式：

• 基於查詢的攻擊：向模型大量發送精心設計的輸入，收集輸出用以推測模型特徵。

• 模型反演攻擊：利用模型輸出反推模型參數或架構資訊。

• 會員推斷攻擊：判斷某數據是否用於模型訓練。

影響與風險：

• 盜用昂貴訓練的模型，降低競爭力。

• 洩露敏感訓練數據隱私。

• 提升攻擊者發起更為複雜攻擊的能力。

防禦策略：

• 限制API的查詢頻率和範圍，避免信息過度泄露。

• 對模型輸出做隨機化或模糊處理。

• 採用對抗訓練提升模型對盜用的魯棒性。

• 監控異常訪問行為並及時響應。

簡單比喻：

Model Stealing就像有人不停地詢問你問題，並根據你的回答模仿成你的對話風格，最終仿製出你本人。

總結：

Model Stealing是通過分析模型回應查詢，非法複製機器學習模型的攻擊，對模型所有權和數據保護帶來嚴重威脅，需要多層防禦措施加以應對。Model Stealing（模型竊取）是一種機器學習安全攻擊，攻擊者透過向目標模型發出大量查詢，並分析其輸出結果，推測模型的參數、架構或行為，從而復刻出功能相似的副本模型。這通常不需獲得模型內部資訊，是一種黑盒攻擊。

主要類型包括基於查詢的攻擊、模型反演攻擊和會員推斷攻擊。模型竊取可能導致知識產權被盜用、訓練數據隱私洩漏，並使攻擊者能進一步發起更多攻擊。

防禦措施包括限制API查詢頻率和範圍、加入輸出隨機化、對抗訓練和異常行為監控。

簡單比喻，模型竊取就像有人通過不停問問題，模仿你的回答風格來複製你。

總結：模型竊取是分析模型輸出來非法複製模型的攻擊，對AI安全構成威脅，需多層防護。