【職場讀書人選書】演算法與自動化 並不是公平正義的解藥—《懲罰貧窮:隱藏在演算法之下的不平等歧視》

更新於 發佈於 閱讀時間約 3 分鐘

當我們談論那些在民眾與公共機構之間運作的技術時,我們比較關注它們的創新,以及它們突破傳統的方式。支持者稱這種技術為「顛覆力」,說它們顛覆了老舊的權力關係,創造出更透明、更迅速回應、更有效率,甚至本質上更民主的政府。

這種對新事物的過分關注,使我們忽視了數位工具嵌入舊有權力與特權體系的方式。

raw-image

「AI」也就是人工智能,可說是近期最熱門的話題之一,隨著它的應用越來越廣泛,許多人更期望這樣的科技革新,能夠帶來更加進步且平等的社會秩序。然而,這樣的思維卻忽略了科技是「由人而生」的本質,儘管運算邏輯上並不會帶有情感,卻可能在一開始的設定就存在人類的偏見,進而無形中成為加深社會不平等的最佳工具。

科技的偏見來自於人性

《懲罰貧窮:隱藏在演算法之下的不平等歧視》可說是一本「逆風」之作,在各國政府開始走向大數據潮流、希望藉由資料與自動化追求效率的當下,警示了其背後所可能導致的風險。以福利申請系統、無家者入住媒合平台,以及預測受虐兒的家庭篩查工具等,三個雖然不同性質,卻同樣在美國施行且大量使用自動化運算的系統,來呈現演算法所可能導致的不平等,甚至是歧視。

對於一般讀者而言,閱讀這本書或許更像是一場思辨之旅:不論是一開始的「福利申請系統」,或者是入住媒合平台,藉由點出「以服從換取福利」及相關懲罰性措施(用「懲罰」真的是一點也不為過),在在顯示現代許多社會福利規定,「並不是為了幫助,而是為了逮住不法」的矛盾;至於家庭篩查工具,更有著科幻電影《關鍵報告》的既視感。

「人」終究是最重要的

藉由呈現出弱勢族群的困境,作者也清楚說明了那些在中產階級或一般大眾眼中,看似平常或者僅會感到小小麻煩的規定,對於特別需要幫助的族群,卻可能足以致命。而最諷刺的是,我們其實也隨時可能成為需要幫助的族群,甚至已經處於其中。

科技讓人類生活更加進步,卻似乎也讓我們更加疏離,尤其在追求效率的現代社會,人與人之間的連結反而變得越來越薄弱。儘管「AI」恐怕已經是趨勢,但在計算它帶來的幫助時,或許也是重新思考人類中心價值的契機,既然「科技始終來自於人性」,那麼我們在擁抱這些發展的同時,也應該隨時提醒自己,「人」終究還是這一切最重要的。

留言
avatar-img
留言分享你的想法!
avatar-img
職場讀書人|選書📖 / 追劇📺 / 聽歌🎧
48會員
414內容數
喜歡看書、追劇、看電影跟聽音樂的社畜,感覺把那些作品記錄下來好像比較不浪費已經花費的時間,也希望能夠幫助讓好作品接觸到更多適合的人。
2025/05/03
一場像樣的訪問,是帶著子彈與玫瑰赴會:要不槍彈上膛、砲火四射,逼出口供;要不暖語含苞、漫天花舞,誘出真心話。
Thumbnail
2025/05/03
一場像樣的訪問,是帶著子彈與玫瑰赴會:要不槍彈上膛、砲火四射,逼出口供;要不暖語含苞、漫天花舞,誘出真心話。
Thumbnail
2025/05/01
除了帶領讀者回顧西方知識「受難史」與圖書館變遷,《焚書》同時也將讓我們理解圖書館本身存在的價值。以及忽視知識保存所可能帶來的風險。
Thumbnail
2025/05/01
除了帶領讀者回顧西方知識「受難史」與圖書館變遷,《焚書》同時也將讓我們理解圖書館本身存在的價值。以及忽視知識保存所可能帶來的風險。
Thumbnail
2025/04/26
曾經同屬於大日本帝國的統治範圍,滿洲國與台灣的關係甚至可能比當時的中華民國更加緊密。尤其是當歷史還處於迷茫的階段,小說的虛構特性,或許也能夠幫助我們更接近這個場域,拾取那些與台灣人有關的歷史碎片。
Thumbnail
2025/04/26
曾經同屬於大日本帝國的統治範圍,滿洲國與台灣的關係甚至可能比當時的中華民國更加緊密。尤其是當歷史還處於迷茫的階段,小說的虛構特性,或許也能夠幫助我們更接近這個場域,拾取那些與台灣人有關的歷史碎片。
Thumbnail
看更多
你可能也想看
Thumbnail
「欸!這是在哪裡買的?求連結 🥺」 誰叫你太有品味,一發就讓大家跟著剁手手? 讓你回購再回購的生活好物,是時候該介紹出場了吧! 「開箱你的美好生活」現正召喚各路好物的開箱使者 🤩
Thumbnail
「欸!這是在哪裡買的?求連結 🥺」 誰叫你太有品味,一發就讓大家跟著剁手手? 讓你回購再回購的生活好物,是時候該介紹出場了吧! 「開箱你的美好生活」現正召喚各路好物的開箱使者 🤩
Thumbnail
本文深入探討了人工智慧(AI)技術的崛起及其對現代社會的影響。從AI在各領域的廣泛應用,到其對全球經濟和社會結構的深遠影響,再到相關的倫理和社會問題,本文提供了一個全面的視角,幫助讀者理解AI技術的機會和挑戰。
Thumbnail
本文深入探討了人工智慧(AI)技術的崛起及其對現代社會的影響。從AI在各領域的廣泛應用,到其對全球經濟和社會結構的深遠影響,再到相關的倫理和社會問題,本文提供了一個全面的視角,幫助讀者理解AI技術的機會和挑戰。
Thumbnail
「AI」也就是人工智能,可說是近期最熱門的話題之一,隨著它的應用越來越廣泛,許多人更期望這樣的科技革新,能夠帶來更加進步且平等的社會秩序。然而,這樣的思維卻忽略了科技是「由人而生」的本質,儘管運算邏輯上並不會帶有情感,卻可能在一開始的設定就存在人類的偏見,進而無形中成為加深社會不平等的最佳工具。
Thumbnail
「AI」也就是人工智能,可說是近期最熱門的話題之一,隨著它的應用越來越廣泛,許多人更期望這樣的科技革新,能夠帶來更加進步且平等的社會秩序。然而,這樣的思維卻忽略了科技是「由人而生」的本質,儘管運算邏輯上並不會帶有情感,卻可能在一開始的設定就存在人類的偏見,進而無形中成為加深社會不平等的最佳工具。
Thumbnail
讀這本書之前只知道所謂的免費使用Facebook、Google等服務不是免費,讀了這本書以後才知道幫忙他們打工的人所拿到的報酬也稱不上報酬... 平台資本主義創造出許多巨獸科技公司,利用演算法與其平台媒合的服務,讓消費者可以得到想要的社交互動、影片推薦、交通運輸,彷彿雙方都是贏家,到底誰買單?
Thumbnail
讀這本書之前只知道所謂的免費使用Facebook、Google等服務不是免費,讀了這本書以後才知道幫忙他們打工的人所拿到的報酬也稱不上報酬... 平台資本主義創造出許多巨獸科技公司,利用演算法與其平台媒合的服務,讓消費者可以得到想要的社交互動、影片推薦、交通運輸,彷彿雙方都是贏家,到底誰買單?
Thumbnail
我很喜歡這一段話:「那些感受到 AI 威脅的人,如何去接受 AI、向 AI 學習,摸索人類與 AI 的共存之道。從人類與 AI 的相處方式,我們可以發現人類的弱點及可能性。」細品後發現字裡行間充滿意涵。接下來會透過拆解此句來分享從中獲得的啟發。
Thumbnail
我很喜歡這一段話:「那些感受到 AI 威脅的人,如何去接受 AI、向 AI 學習,摸索人類與 AI 的共存之道。從人類與 AI 的相處方式,我們可以發現人類的弱點及可能性。」細品後發現字裡行間充滿意涵。接下來會透過拆解此句來分享從中獲得的啟發。
Thumbnail
演算法可以幫人類決定一些事情。隨著現代社會漸趨複雜,使用到演算法的例子只會越來越多。但我們可曾想過,演算法也會「歧視」?
Thumbnail
演算法可以幫人類決定一些事情。隨著現代社會漸趨複雜,使用到演算法的例子只會越來越多。但我們可曾想過,演算法也會「歧視」?
Thumbnail
蘋果手機每年都會更新並產出新的商品,但每一代手機之間少有重大的創新,卻不斷以花俏的行銷方式吸引全世界的蘋果迷買單。這樣的商業模式,嚴重地忽視了科技的其他社會功能,特別是對人類文明的重大意義,若再一次陷入資本主義的新花樣,缺乏精神文化的進步,根本不是科技造成人類孤獨,而是人類自願孤獨
Thumbnail
蘋果手機每年都會更新並產出新的商品,但每一代手機之間少有重大的創新,卻不斷以花俏的行銷方式吸引全世界的蘋果迷買單。這樣的商業模式,嚴重地忽視了科技的其他社會功能,特別是對人類文明的重大意義,若再一次陷入資本主義的新花樣,缺乏精神文化的進步,根本不是科技造成人類孤獨,而是人類自願孤獨
Thumbnail
【洋蔥式閱讀!當代關鍵議題系列】 AI可不可以當總統或法官?機器人要不要繳稅?思辨人類與人工智慧該如何共生 洋蔥式分層閱讀,按內容深淺階梯式排版── 依個人閱讀喜好,自由跳接、由簡至繁,秒懂當代不可不知的世界議題    
Thumbnail
【洋蔥式閱讀!當代關鍵議題系列】 AI可不可以當總統或法官?機器人要不要繳稅?思辨人類與人工智慧該如何共生 洋蔥式分層閱讀,按內容深淺階梯式排版── 依個人閱讀喜好,自由跳接、由簡至繁,秒懂當代不可不知的世界議題    
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News