ExploringthefalloutofMITMediaLabresearcherJoyBuolamwini’sstartlingdiscoverythatfacialrecognitiondoesnotseedark-skinnedfacesaccurately,andherjourneytopushforthefirst-everlegislationintheU.S.togovernagainstbiasinthealgorithmsthatimpactusall.本片是凯西欧尼尔《大數據的傲慢與偏見》一书的延展。这是个演算法包围现代公民的时代！演算法在幕后影响着我们生活的各种决定，包括我们上什么学校、能否借到汽车贷款，以及医疗保险必须支付多少保费，愈来愈多判断是由数学模型，而非某些人所做出。这一切看似公平：因为所有人是根据相同的规则评断，不受偏见影响。对热情的“问题解决者”来说，大数据像仙境，它搜集资讯、再运用数学模型，使我门得以更有效地调配资源、筛选最优的人事物、并做出最好的决定，这些热情的宣扬者更是四处宣传大数据应用的威力。但是，曾在典型数据分析圈内工作的凯西欧尼尔不是上述这种人。她在《大數據的傲慢與偏見》中指出，事实与我们想的恰恰相反！这些数学模型不透明、不受管制，即便出错，受害者往往无法申诉。最令人不安的是，这些模型会“强化歧视”，例如，贫穷学生在申请学贷时，可能因自家的邮递区号，被审核贷款的数学模型视为还款高风险者，因而无法获得贷款。这类问题会形成恶性循环奖励幸运儿、惩罚遭践踏的人，创造出危害民主的“有毒鸡尾酒”。欢迎认清大数据的黑暗面欧尼尔在《大數據的傲慢與偏見》中揭开对我们人生各阶段有巨大影响的各种黑箱数学模型，不管我们愿不愿意，