Demographic Parity（人口統計平等）是一種公平性指標，旨在確保不同包含敏感屬性（如種族、性別、年齡等）群體獲得正面結果的機率相等。在決策系統中，達到Demographic Parity意味著系統的正面輸出（例如貸款批准、工作錄取）不應依賴於被保護群體的身份特徵。
Demographic Parity的定義：
• 該概念要求所有敏感群體獲得正面結果的比率或概率保持一致。• 數學上表示為：對所有群體 ， ，其中 是模型預測結果， 是敏感屬性。
• 確保公平的資源分配與機會平等，避免因群體身份導致系統性歧視或偏見。
舉例說明：
• 在信貸審批中，不同種族的申請人得到批准的比率應該相同，即使背景和其他因素有所不同，也不因種族而差別對待。
• 在招聘系統中，各性別獲得面試機會的比例應持平，避免性別偏見。
Demographic Parity的意義與挑戰：
• 促進公平與社會正義，增加人們對系統的信任。
• 可能與預測準確性產生權衡，因為真實數據可能反映現實中的不平等。
• 強制達成平等率可能帶來“反向歧視”風險，需謹慎設計和應用。
簡單比喻：
Demographic Parity像是在比賽時確保不同隊伍有同等參賽資格和出場時間，而非因背景差異有所偏頗。
總結：
Demographic Parity是一種公平性衡量指標，要求模型決策結果對不同敏感群體保持相同的正面結果比例，以促進公平和防止歧視。
