美國印第安納州在三年內(nèi)拒絕了一百萬民眾的醫(yī)保、食品券和現(xiàn)金福利補助申請——僅僅因為新試用的計算機資格認(rèn)證系統(tǒng)將申請流程中出現(xiàn)的所有問題統(tǒng)統(tǒng)歸為申請者“未予配合”。在洛杉磯，當(dāng)?shù)卣�府引入計算幾十萬無家可歸者“弱勢指數(shù)”的算法，以在住房資源有限的情況下，對需要救助的對象進行優(yōu)先性排列。匹茲堡的一個兒童福利機構(gòu)運用統(tǒng)計模型來預(yù)測哪些孩童可能會在日后受到虐待或忽視。這些聽上去能高效快速解決社會問題、救助窮人的算法，經(jīng)過紐約州立大學(xué)奧爾巴尼分校政治學(xué)副教授弗吉尼亞·尤班克斯在《自動不平等》一書的深入分析，卻呈現(xiàn)出不同的樣貌——事實上，它們?yōu)槿�美貧困和工人階層家庭帶來了巨大的風(fēng)險。
　　標(biāo)榜高效的自動化系統(tǒng)，并未實質(zhì)上改善貧困家庭的處境，恰恰相反，嵌入偏見的高科技工具使政府在做出和民眾生活息息相關(guān)的決定時，“名正言順”地擺脫了道德障礙。令人更加后怕的是，尤班克斯在本書中揭露了伴隨數(shù)據(jù)分析、統(tǒng)計模型與算法的監(jiān)管網(wǎng)絡(luò)，邊緣人群正面臨著更加嚴(yán)格的數(shù)字追蹤、監(jiān)控甚至懲罰，牢牢困在這張網(wǎng)中。
　　三個故事：“數(shù)字濟貧院”中的生活
　　弗吉尼亞·尤班克斯在《自動不平等》中，以三個深入調(diào)查訪問的案例分析，系統(tǒng)地研究了數(shù)據(jù)挖掘、政策算法和預(yù)測風(fēng)險模型對美國貧困和工人階層的影響。
　　“濟貧院”這個比喻源于19世紀(jì)美國政府為減輕緩解貧困問題而建造的實體濟貧院。尤班克斯認(rèn)為“現(xiàn)在我們正在建設(shè)一所數(shù)字濟貧院”，一所無形的“鎖定窮人、管制窮人甚至懲罰窮人”的機構(gòu)，一旦他們求助政府獲取公共援助或者尋求其他公共服務(wù)，就會被這所看似中立的數(shù)字濟貧院“瞄準(zhǔn)”。
　　印第安納州試行的福利資格自動認(rèn)證系統(tǒng)推行福利資格自動化運營制度，脆弱不堪的規(guī)則和設(shè)計不當(dāng)?shù)牟僮髦笜?biāo)意味著一旦發(fā)生錯誤，往往會被解釋成是申請人而不是州政府或承包商的錯誤。自動決策工具永不出錯，這種假設(shè)意味著計算機化的決策優(yōu)于旨在為申請人提供程序公正的人工程序。成百萬人的福利申請遭到了拒絕。這其中包括出生時就是腦癱兒、醫(yī)療費用寄希望于政府的小蘇菲。因為當(dāng)?shù)丶彝ヅc社會服務(wù)管理局社工的失誤，蘇菲家被徑直歸為“未能配合”政府工作，而被拒絕給予福利的申請。貧困人士成了“天然的福利欺詐者”。
　　洛杉磯為無家可歸者提供服務(wù)的機構(gòu)希望高效地利用資源，更加有效地與各方合作，但是將選取受助對象的工作外包了出去。根據(jù)其設(shè)計者的說法，該市的協(xié)調(diào)入住系統(tǒng)旨在將最亟需幫助的群體與最合適的資源相匹配。然而，大批無家可歸者的個人信息被錄入無家可歸者管理信息系統(tǒng)．生成了所謂的“弱勢指數(shù)”。次貸危機中失去一切的加里·伯特萊特大叔流落街頭，因為“弱勢指數(shù)”不夠高，他只能在無盡等待中消磨掉自。己的希望。包括他在內(nèi)的無數(shù)無家可歸者的信息也成了執(zhí)法部門可以隨意獲取的數(shù)據(jù)。他們被當(dāng)成了“天然的罪犯”。
　　阿勒格尼縣的家庭篩查系統(tǒng)根據(jù)一個人以往的行為模式來推測他將來可能采取的行動。在新的預(yù)測方式下，你不僅會受到自己行為的影響，還會受到戀人、室友、親戚和鄰居行為的影響。預(yù)測模型和算法將窮人標(biāo)記為“風(fēng)險”和“問題父母”。大量社會服務(wù)、執(zhí)法活動和社區(qū)監(jiān)督結(jié)合在一起，使他們的一舉一動變得清晰可見，貧困成了“天然的風(fēng)險指標(biāo)”。