平常使用的社群軟體、瀏覽器甚至是拿在手上的手機，背後看不見的演算法正在默默地收集隱私資訊及監控每個人的生活，當大眾發現自己隱私被侵犯時，我們可以透過法律管道要求企業停止追蹤用戶資料，但是當AI資料探勘、政策演算法、預測性風險模型應用到醫療補助、社福津貼與居住分配時，對窮人有什麼影響？他們可以拒絕隱私被侵犯嗎？
本書以研究美國「資料導向」的公共專案為起點，背後的應用邏輯可以擴展到所有國家的治安、政治預測、行銷、信用報告、刑事量刑、企業管理、金融、社會服務管理等各個面向，這些工具以提高效率、控制成本、辨識詐欺為出發點，但當技術建立在不平等的條件下，如果又缺乏合理的配套與監督，民眾將受到什麼影響？
本書作者是政治學家維吉妮亞・尤班克斯Virginia Eubanks，她考察了美國三個州的三種不同自動化管理機制，並實際訪問受到自動化系統影響的個案，出發點良善的自動化系統對民眾的影響究竟是好是壞呢？印第安納州的資格認證自動化系統
2006年，印第安納州州長推動福利改革計畫，把社服個案調查民營化，透過資格認證自動化、線上申請取代面對面互動，將社服人員轉移到私營的集中式電話中心，並以加速結案為客服人員的績效指標，期望能達到減少詐欺、削減支出、刪減福利救濟名單人數的目的。
自動化申請將所有流程設計到系統內，減少人員判斷的失誤，但也減少了人員的彈性，民眾只要稍微偏離流程將全數判定為資格不符，不論背後原因。例如民眾因工作無法配合面談、寄送之紙本文件遺失、超過規定時間送達、表格漏了一個欄位未簽署，或甚至檔案被文件處理中心人為遺失、客服中心滿線導致客服人員未能在約定時間聯絡民眾......等，都將被以「未能配合」拒絕補助申請。
由於申請醫療補助或食物救濟的民眾通常是窮人階級，本身就缺少資源，甚至早已被生活壓的喘不過氣，而自動化認證系統從設計之初的目的就是因設計者認為申請補助者懶惰、依賴福利政策，甚至詐欺補助款，此系統設計在歧視的基礎下，寧願因一位不符合條件的申請人而拒絕十位符合條件的申請人。
雖然在2009年10月，政府在龐大的民眾與議員的要求下宣告系統失敗，後續改為混合資格審查系統，結合「電子資料處理」與「與客服人員面對面互動」，但自動化決策仍在繼續執行，高科技技術本身並無立場，是設計者給予工具角色，在此套系統把本來的福利政策設計成懲罰窮人的機制，對福利申請者進行篩檢，把他們排除在公共資源外，即便改為混合資格審查系統，接受補助的家庭數量仍在持續下降。
洛杉磯的無家可歸者協調入住系統
在美國長期貧富不均的社會背景下，許多城市都有所謂的貧民窟，大家對貧民窟的刻板印象通常是敗壞與絕望，在1949年的《美國住房法》下，破敗、危老的建築被拆除，對應的國宅興建計畫卻遭到周圍社區居民反對而無法興建。隨著洛杉磯發展成為創意產業中心，年輕的專業人士遷入造成房租持續上漲，貧民窟範圍持續縮水。
協調入住系統為了解決洛杉磯郡住房供需嚴重失調的問題。在協調入住系統出現之前，無家者使用複雜的等候名單與社服專案系統，該系統往往根據物業管理者或房東的偏好來安排，制度相當官僚與腐敗。而協調入住系統使用了賓州大學的研究，將無家可歸者分類為「危機型」與「長期型」人口，依據他們對於輔助住房的需求不同，系統自動演算並配對房屋給無家可歸者。
當無家可歸者申請加入庇護所時，協調流程開始展開，調查包含一系列非常私密的問題以及個資，並且需要簽署一份同意書，同意個資將與其他168個組織分享，除了與社會服務相關的系統外，個資也會被用於「法律要求或執法目的」，像是市政府、救援組織、醫院、戒癮中心、洛杉磯警察局等。根據聯邦資料標準，執法機關為了辦案可以口頭提出要求，在沒有審查及批准的程序下取得這些資料。
出發點立意良善，但在缺乏房源的情況下，協調入住系統提供的是無家者的管理，真正的問題並未獲得改善，貧民與勞工需要平價的住宅與可用的服務，新來的都市新貴想要全新的住房與高級超市，並且不希望無家者搬到他們隔壁，關鍵問題不在系統能否正確判斷無家者需要的住房類型，而是需要更多房子，而窮人與勞工階級可能無法克服有組織的菁英團隊所施展的政治阻力。
對於成千上萬尚未配對成功無家者來說，協調入住系統只是不停地收集侵犯隱私的資料，卻沒有提供任何回報，但如果你不願意被收集資料，系統便無法為你配對房源，等於失去住房補助的資格，你將面臨兩難，坦承某些犯罪行為可能讓住房順位變高，但也面臨執法單位審查。
賓州的虐童演算系統
1999年賓州在州長領導之下建立了一個龐大的資料庫，定期彙整來自29個不同單位的資料，包括成人緩刑、吸毒酗酒治療服務、住房管理局、監獄、少年緩刑處、警察局、精神病院......等機構，以便做資料分析研究和評估。在2012年賓州與紐西蘭理工大學某團隊合作開發一種產前受虐預測演算法，使用132個變數評估哪些兒童最有可能遭受虐待或忽視。132個變數來自過去社工證實的虐童案資料作為指標，進行回歸分析找出預測變數。
此系統為被通報的兒童做受虐指數評分，雖然是作為輔助案件篩檢員的決策，但評分算出後即不能更改，並且超過一定分數自統會自動啟動調查，展開一系列的監控、訪談、父母被要求藥檢或定期上心理治療課程，甚至被要求與孩子分開。
虐童案以人為通報開始，檢舉者可以匿名，造成惡意檢舉的雜訊與人為偏見因子加入評分，例如檢舉黑人與混血家庭有虐童與兒童忽視問題的頻率比檢舉白人家庭還高。而貧困家庭中常見的許多困境被官方認定為兒童忽視，例如缺乏食物、住房不足或不安全、缺乏醫療照護或父母工作時放小孩獨自一人。有1/4的變數直接衡量貧困，1/4變數衡量家庭曾與兒青家庭組織互動、曾使用過公共服務。中產階級可以依賴私人資源取得服務，但是當低收入戶家庭使用兒福服務時，系統將留下紀錄，等於認同兒福機構有權利帶走你的孩子。
如果系統對虐童與忽視的調查是一種良性行為，有一定比例的孩子在此系統的幫助下取得資源，但是系統設計者仍然要不停的思考，這樣的抽樣是否過於偏重窮人？窮人家庭雖然生活困苦，但不代表父母不愛他們的小孩，父母願意為了冒著被調查的風險申請社會補助，也正是為了改善孩子的生活環境，預設「窮人的育兒方式」=「不良的育兒方式」是不公平的。
大數據時代的無害宣言
高科技工具增加透明度，減少人為判斷，讓測量與追蹤更精確，讓資源分享更方便，本應用來消除偏見，卻因設計者的偏見歧視導致公共援助系統變的更像懲罰系統。科技本是兩面刃，端看使用者的立場而定。在設計下一個系統時，作者提出以下兩個原則以迅速評估系統的本質：
- 那項工具是否增加窮人的自決權與能動力？
- 如果把那項工具套用在非窮人身上，那些人能否容忍？
更重要的是培養同理心，讓不同族群互相理解，經濟不平等是整個社會的責任，對於擁有專業知識、工具、時間、金錢的豐富資源的專業人士來說，更應該有意識的消除不平等，也許有一天我們老了、病了，也會需要社會上其他人的幫忙，現在這套系統在弱勢族群中試行，哪天也許會套用到所有階層，與所有人都有關係，今天我們可能在不知情的情況下參與了懲罰系統的建造，那就更應該善用工具來拆除懲罰系統。
我的心得
最近在看netflix的影集《女傭浮生錄》，第一級剛好演到女主角為了帶著三歲女兒逃離家暴男友而成為單親媽媽，到社福中心詢問補助，在讀到這本書的時候我心想，這是什麼宇宙的神秘力量，直接給我影像好讓我更感同身受嗎？影片裡的媽媽需要申請住房補助，但她需要先有薪資單，她帶著三歲小孩沒辦法工作，所以需要申請托兒所津貼，但是沒有薪資單就沒辦法申請托兒所津貼，看到這裡直接跟著女主角一起wtf，這是什麼官僚制度？後續女主角還因為居無定所而在監護權官司中陷入困境，但從頭到尾都可以看到女主角對女兒無微不至的愛，她做的一切都是為了給女兒最好的，這些在法庭上卻很難證明。
對照《懲罰貧窮》裡所描述，社會普遍認為領取社會補助的人是個人行為造成，肯定是這個人不努力、不誠實、墮落，所以要排除這些人於社會之外，但真的是這樣嗎？其實我們都知道，很多時候現實就是會發生預料之外的事，可能會遇到公司倒閉、生病、離婚或是遇到疫情失業，在運氣不好的時候更需要這個社會的幫助，需要大家多一點的同理心而不是事不關己。
雖然這本書描述的是美國的社會制度與他們的系統，但是社會問題看了同樣令人心痛，而高科技運用在社會福利上是遲早的事，2020年紓困貸款與紓困補助政府同樣利用系統結合我們的勞保、所得稅運算申請資格與補助金額，補助速度很快，不過資格的判定標準流傳多個版本，許多人想查明資格也因為流程複雜而放棄。另外持續至今的疫調與簡訊實名制的個資問題也一再被討論，高科技的運用牽涉範圍越來越廣時，需要大家一同監督，以免掉入人為造成的科技危害。
這本書對你有幫助嗎?
感謝你看完這本書，分享文章的初衷是希望大家在忙碌的生活之餘，可以享受閱讀的樂趣，雖然忙碌的上班生活可能讓你沒有時間看完完整的書，但沒關係，我可以當你的眼睛，你可以留言告訴我想看什麼書，有機會的話可以幫你濃縮整理喔!
如果這本書有幫助到你，也歡迎單次贊助或是訂閱我，給我小小的鼓勵，將是我持續努力的動力!
