付費限定文章

【職場讀書人選書】演算法與自動化 並不是公平正義的解藥—《懲罰貧窮：隱藏在演算法之下的不平等歧視》

當我們談論那些在民眾與公共機構之間運作的技術時，我們比較關注它們的創新，以及它們突破傳統的方式。支持者稱這種技術為「顛覆力」，說它們顛覆了老舊的權力關係，創造出更透明、更迅速回應、更有效率，甚至本質上更民主的政府。

這種對新事物的過分關注，使我們忽視了數位工具嵌入舊有權力與特權體系的方式。

「AI」也就是人工智能，可說是近期最熱門的話題之一，隨著它的應用越來越廣泛，許多人更期望這樣的科技革新，能夠帶來更加進步且平等的社會秩序。然而，這樣的思維卻忽略了科技是「由人而生」的本質，儘管運算邏輯上並不會帶有情感，卻可能在一開始的設定就存在人類的偏見，進而無形中成為加深社會不平等的最佳工具。

科技的偏見來自於人性

《懲罰貧窮：隱藏在演算法之下的不平等歧視》可說是一本「逆風」之作，在各國政府開始走向大數據潮流、希望藉由資料與自動化追求效率的當下，警示了其背後所可能導致的風險。以福利申請系統、無家者入住媒合平台，以及預測受虐兒的家庭篩查工具等，三個雖然不同性質，卻同樣在美國施行且大量使用自動化運算的系統，來呈現演算法所可能導致的不平等，甚至是歧視。

對於一般讀者而言，閱讀這本書或許更像是一場思辨之旅：不論是一開始的「福利申請系統」，或者是入住媒合平台，藉由點出「以服從換取福利」及相關懲罰性措施（用「懲罰」真的是一點也不為過），在在顯示現代許多社會福利規定，「並不是為了幫助，而是為了逮住不法」的矛盾；至於家庭篩查工具，更有著科幻電影《關鍵報告》的既視感。

「人」終究是最重要的

藉由呈現出弱勢族群的困境，作者也清楚說明了那些在中產階級或一般大眾眼中，看似平常或者僅會感到小小麻煩的規定，對於特別需要幫助的族群，卻可能足以致命。而最諷刺的是，我們其實也隨時可能成為需要幫助的族群，甚至已經處於其中。

科技讓人類生活更加進步，卻似乎也讓我們更加疏離，尤其在追求效率的現代社會，人與人之間的連結反而變得越來越薄弱。儘管「AI」恐怕已經是趨勢，但在計算它帶來的幫助時，或許也是重新思考人類中心價值的契機，既然「科技始終來自於人性」，那麼我們在擁抱這些發展的同時，也應該隨時提醒自己，「人」終究還是這一切最重要的。