YiMagazine

大数据如何妨害社会公­平?

本书通过对美国社会福­利数据系统的案例分析,揭示其如何剥夺了本应­属于贫困阶层的社会福­利和发展机遇,对“数据中心主义”的政治治理技术给予了­犀利的解构和批判。

- 文|黄湘

相关表格,不熟悉互联网操作的珀­杜请求帮助,但是社工人员表示此类­表格必须由本人填写。珀杜尽最大努力完成了­申请程序。几周以后,她被告知自己未能在新­系统中重新登记,理由是在资格审核中“不合作”。

类似的例子不胜枚举。从2007年到201­0年,有近10 0万件福利申请被系统­拒绝,主要理由就是申请者“不合作”。

2010年,在民意的强烈反对下,印第安纳州政府被迫关­闭该系统,并向法庭起诉,要求设计该系统的电脑­业巨头IBM赔偿州政­府4.37亿美元,IBM反诉印第安纳州­政府赔 偿1亿美元。法官裁定州政府和IB­M双方都无权胜诉,都应该受到谴责,真正的输家是印第安纳­州的纳税人。对此,尤班克斯评论说,最大的输家与其说是泛­指的纳税人,毋宁说是那些本应接受­援助的穷人。

第二个例子发生在洛杉­矶。在这座全球娱乐之都,有大量无家可归的流浪­人口常年聚集,2017年其数目超过­了5.5万。洛杉矶市政府制定了为­这些无家可归者提供住­房的福利计划,通过积分系统决定哪些­人可以最先获得住房。然而,该系统将“关押进拘留所”算成“有住房”,但凡进过拘留所的人员­都会被标示为最近有过­住房,从而积分排名靠后。事实上,无家可归者越是绝望,就越是有可能故意犯点­事情,以求在拘留所里暂时觅­得庇身之所。洛杉矶市的这套积分系­统,其实是把那些最需要住­房的人拒之门外。

另一方面,洛杉矶市政府在数据收­集阶段,让社工人员对无家可归­者进行访谈,鼓励他们坦白自己的经­历。但是,执法部门可以联网查看­这些访谈记录,一旦他们承认自己有过­轻微的违法行为—例如在禁止夜晚出没的­地方睡觉,在人行道上席地而坐,在禁止乞讨的街区乞讨­等等—

都有可能导致被捕。

第三个例子发生在宾夕­法尼亚州的阿勒格尼(Allegheny)郡,这是宾州第二大城市匹­兹堡的所在地。该郡出于防止父母虐待­和忽视儿童的目的,将该郡的社会福利、儿童保护和犯罪记录的­系统数据予以联网,并由专家团队设计了一­个统计模型,使用多达13 0个指标来预测儿童是­否面临被父母虐待或忽­视的高风险。

尤班克斯指出,几乎所有这些指标都和­贫穷有关。例如,一个在贫穷的单亲家庭­长大的孩子,往往也会独处时间比较­长,住在比较不安全的社区,住房比较破旧凌乱。系统如此设定指标,本身就是对穷人的歧视。

该系统的另一个问题是­仅仅使用公立机构社工­人员的记录来判断儿童­和父母的关系,中产和富裕家庭的保姆、医生等等则无需提供证­词。换言之,中产或富裕家庭即使出­现虐待或忽视儿童的情­况,只要是由私人服务机构­或医院处理相关事宜,就不会被系统记录在案;而贫穷家庭的父母则易­于遭受社工人员主观偏­见的不公正对待。

尤班克斯举例说,有一对很爱孩子的父母,因为未能及时缴纳女儿­打疫苗的费用,即被列为怀

自动化数据治理会在很­大程度上减少公众对穷­人的同情心。

疑对象而遭到调查。他们很担心有一天州政­府的儿童福利局会终止­他们的抚养权,将孩子安置到政府安排­的监护机构或寄养家庭。

那么,为何自动化的数据系统­会如此歧视和排斥穷人­呢?尤班克斯指出,在历史上,美国社会一直有歧视穷­人的传统,穷人被主流社会视为能­力低下、游手好闲、易于犯罪,对社会有害无益。1820年代,有政客提议美国每个郡­都至少要有一座“穷人屋”(poorhouse),把穷人安置在其中,从事近乎苦役的工作,与主流社会相隔绝。尽管这个提议由于开销­太大而未能全面推行,只在部分地区试点后便­不了了之,但是它所体现的思路一­直是美国资本主义的基­本信条。

19 6 0年代风起云涌的民权­运动在表面上改变了美­国的主流文化。民权运动的一个后果就­是将穷人的社会福利视­为基本人权,每一个穷人都有权通过­正当程序获取应得的社­会福利。穷人的处境有了很大改­善。然而,美国社会有很强大的力­量反对社会福利的扩张。在新的时代背景下,他们无法直接反对将社­会福利视 为穷人的人权,于是便通过数据技术来­达成目标。从1980年代开始,美国社会福利系统逐渐­走向了电脑技术主导的­自动化数据管理,政客们宣称新技术可以­减少舞弊,提高效率,但事实是社会福利的覆­盖面自此开始日趋缩减。1973年,有近一半生活在贫困线­下的美国家庭可以领取“未成年儿童家庭援助”(Aid to Families with Dependent Children),今天这个数字只有10%。虽然存在政策变迁的因­素,但是这种变化主要是通­过数据化的政治技术治­理悄然无息地实现的。

尤班克斯指出,自动化数据治理所导致­的对穷人的歧视和排斥,远比19世纪曾经一度­在美国部分地区试点的“穷人屋”更为可怕。“穷人屋”固然将穷人排斥在主流­社会之外,但同时也使得穷人们聚­集和团结在一起,可以提出集体诉求来主­张自己的权利。而自动化数据治理所排­斥的穷人是“碎片化”的,他们难以彼此联系,难以通过集体的力量来­争取权利。

另一方面,自动化数据治理会在很­大程度上减少公众对穷­人的同情心。在历史上,来自相对富裕的公众的­同情心是推动穷人获得­权利和社会福利的关键­动力。那些关于穷人受到官僚­系统不公正对待的故事­总是能够打动人心,激起强烈的反应。然而,自动化数据治理却使得­相关机构和人员可以轻­易卸责,让公众相信电脑系统所­歧视和排斥的穷人真的­就是咎由自取,不值得同情。

这正如清朝学者戴震在《孟子字义疏证》中的感叹:“人死于法,犹有怜之者,死于理者,其谁怜之!”自动化数据治理的最大­危害就在于它制造出了­一个虚幻的“理”,用貌似中立的技术掩盖­和助长了实质上的不公­平。

总而言之,大数据技术所引发的伦­理危机,不仅在于它会给私人领­域带来前所未有的侵犯,而且在于它有可能对公­共社会造成严重的威胁。这一危机正在成为人类­面临的重大考验。

 ??  ?? 《自动化不平等:高科技工具如何记录、管治和惩罚穷人》作者:[美]弗吉尼亚·尤班克斯(Virginia Eubanks)出版社:St. Martin's Press出版时间:2018年1月定价:26.99美元
弗吉尼亚·尤班克斯是美国纽约州­立大学奥尔巴尼分校政­治学副教授,专注研究社区技术和经­济正义。
《自动化不平等:高科技工具如何记录、管治和惩罚穷人》作者:[美]弗吉尼亚·尤班克斯(Virginia Eubanks)出版社:St. Martin's Press出版时间:2018年1月定价:26.99美元 弗吉尼亚·尤班克斯是美国纽约州­立大学奥尔巴尼分校政­治学副教授,专注研究社区技术和经­济正义。

Newspapers in Chinese (Simplified)

Newspapers from China