Data Poisoning（數據中毒）是一種針對機器學習模型的對抗性攻擊，攻擊者故意操縱或破壞訓練數據集，使模型學習到錯誤或有偏見的模式，從而影響模型在實際應用中的準確性和可靠性。
Data Poisoning的定義與原理：
• 攻擊者向訓練數據中注入惡意、偽造或扭曲的數據，這些數據與真實數據混合，難以被發現。• 模型在訓練階段學習這些被污染的數據後，會在預測時產生錯誤或偏頗的結果。
• 與即時的對抗性攻擊不同，數據中毒是在訓練階段發生，影響更長遠。
常見類型：
• 標籤翻轉攻擊（Label Flipping）：將正確標籤故意標錯，使模型誤判。
• 後門攻擊（Backdoor Attack）：在訓練數據中植入觸發器，模型在遇到特定信號時行為異常。
• 可用性攻擊（Availability Attack）：注入大量異常數據，降低模型整體性能。
• 乾淨標籤攻擊（Clean-label Attack）：數據看似正常但有隱藏方向性影響，導致模型在特定情況失效。
影響與風險：
• 使醫療、金融、自治系統等領域的AI決策失準，可能導致重大安全事故。
• 破壞企業信任和AI系統公信力。
• 隱藏漏洞，難以檢測且影響持續存在。
防範措施：
• 強化數據來源和驗證流程。
• 使用異常檢測和數據淨化技術。
• 運用差分隱私和對抗訓練增強模型魯棒性。
• 定期監控模型行為，及早發現異常。
簡單比喻：
Data Poisoning就像有人在煮湯時偷偷加了有害調料，讓整鍋湯變味甚至有害健康，難以透過外觀看出異常。
總結：
Data Poisoning是透過惡意污染訓練數據，使機器學習模型學習錯誤信息的攻擊，對AI系統的準確性與安全性構成長期威脅，需依靠多種技術和策略加以防範。Data Poisoning（數據中毒）是一種針對機器學習模型的對抗性攻擊，攻擊者故意向模型的訓練數據集注入偽造或錯誤的數據，導致模型學習到錯誤或偏差的信息，從而影響模型的準確性和可靠性。
定義與原理
• 攻擊者通過添加惡意數據、篡改已有數據或刪除關鍵數據，使訓練過程受到破壞。
• 模型在訓練階段學習來自被污染數據的錯誤分布，導致預測結果錯誤或偏向某些特定結果。
• 與對抗性攻擊不同，數據中毒針對的是模型訓練階段，而不僅是輸入層面的擾動。
數據中毒常見類型
• 標籤翻轉攻擊（Label Flipping）：將數據標籤改錯使模型誤判。
• 後門攻擊（Backdoor Insertion）：在訓練數據中植入觸發器，讓模型在特定條件下行為異常。
• 可用性攻擊（Availability Attack）：加入大量異常數據，影響整體模型表現。
• 乾淨標籤攻擊（Clean-label Attack）：數據表面正常但隱藏有惡意導向。
影響與防範
• 導致模型不穩定、錯誤判斷，尤其在醫療、金融、自動駕駛等重要領域風險重大。
• 防範包括加強數據來源控制、數據清洗異常檢測、對抗訓練及差分隱私等技術。
簡單比喻：
數據中毒就像在食材中偷偷摻入有害成分，影響整道菜的品質和安全。
總結：
Data Poisoning是一種針對機器學習訓練數據的惡意破壞攻擊，透過污染數據干擾模型學習，嚴重威脅AI系統的準確性與安全性，需結合多種技術手段進行防禦。
