iPAS- 初級AI 應用規劃師-資料隱私與安全

Towfiqu barbhuiya on Unsplash

有關資料隱私與安全的重點：

• 資料隱私風險對企業的影響：
• • 品牌形象受損：資料洩露會導致消費者不信任，損害企業聲譽。
  • 經濟損失：處理資料洩露事件需要投入大量資源，包括調查、通知客戶、提供補救措施等。
  • 市場競爭力下降：研發成果被竊取或被競爭對手利用，會削弱企業的創新力。
• 企業應對資料隱私風險的策略：
• • 保護機密資料：建立嚴謹的資料治理政策、存取控制與監控系統，定期評估風險，並透過教育訓練提升員工的資安意識。
  • 保護模型設計：使用資料加密、模型混淆（添加雜訊、隨機化或壓縮等手段來混淆模型的輸出結果）。
  • 防範資料下毒：指的是攻擊者藉操控模型的訓練資料來影響輸出結果.
• 資料安全議題：
• • 合法性：訓練模型使用機敏資料的行為，需要有法律依據，並遵守資料保護或相關法規。
  • 目的限制：取用機敏資料時，應用資料的範疇僅限於核定的目標。
  • 透明度和個人權利：應向資料主體說明如何使用他們的資料，並確保資料主體能選擇不被蒐集、處理及利用的權利。
  • 資料最小化：以使用最少的資料來達到 AI 訓練目標，界定資料使用範疇。
  • 儲存限制：避免在沒有使用目的的情況下，長時間大量儲存機敏資料。
  • 安全性：以合適技術和配套措施來保護機敏資料。
• 生成式 AI 應用：
  使用公開生成式 AI 服務（例如 ChatGPT）可能存在使用者不當使用行為，若僅良性勸說，可能無法承受資訊外洩的風險。 確保未在公開或 API 串接的生成式 AI 服務中提供個人訊息和機敏資料。
• AI 導入時的資安注意事項：
• • 以生成式 AI 強化現有網站的搜索功能可能使查找內容出現有害資訊。
  • 私人生成式 AI 聊天機器人傳回建議的文件來源可能包含有心人士刻意於內部資料庫上傳的可疑資料，提供此連結給其他尋找相關文件的使用者。
  • 開發人員未經審查便使用 LLM 產生的程式碼可能導致駭客製作同名的惡意軟體，使開發人員未留意便安裝了有害程式碼。
  • 以生成式 AI 強化內部網站搜索功能可能讓使用者透過內部生成式 AI 資料查找到隱私或不符權限規範的資料。
  • 使用者詢問生成式 AI 一個問題涵蓋多個關鍵字，可能導致生成式 AI 判別語意時有所錯誤，提供不相干且侵害他人隱私回答訊息。
  • 生成式 AI 回應的訊息看似真實，但實際上是錯誤的。
• 資安議題檢核：
• • 內嵌式 AI 服務所規範之資安條款，是否符合內部既有資安規範。
  • 留意內嵌式 AI 服務中，有未經資安驗證的 AI 外掛程式及其風險。
  • 減少授權生成式 AI 回復任務的權限，確保關鍵行為是否都由人來檢核執行。

以上資料均來自網路公開資料參考及個人想法綜合整理，因科技發展迅速，資訊不一定絕對正確，請讀者以自己的想法為主，也歡迎留言討論喔！

我是TN科技筆記，如果喜歡這篇文章，歡迎愛心、留言、轉發給朋友給我支持鼓勵！！沙龍內有更多科技文章等著各位喔！