你会被大数据歧视吗?

2 评论 2825 浏览 1 收藏 7 分钟

泰勒·罗德里格斯(TaylorRodriguez)准备乘飞机出外,她把行程都输进了云端,接下来一切都实现了自动化:

门外的行李由智能路灯负责看守;隐形眼镜配有显示器,指引她进入车辆指定位置;车辆实现无人驾驶,自动驶往机场。这一切是如此的简单快捷,各种设备对泰勒进行贴身监控,以第一时间发现她脸部、情绪或行走时的不正常迹象。

上述情景出自白宫之手,准确来说,应该是美国总统科技顾问委员会。最近,该委员会发表了一份报告,对人类可能面临的大数据情景进行分析。

一同发布的,还有一份“90天大数据”实践评估,主要负责人为白宫顾问约翰·波德斯塔(JohnPodesta)。

大数据为众多领域带去了奇迹,这其中包括卫生保健、罪案调查、智能家居、教育、执法、就业等。

但是,为了便捷而牺牲隐私(如上文所述的泰勒·罗德里格斯),这就是我们真正想要的东西吗?如果是,我们又该如何保证个人信息的自主控制权?

你也许觉得事不关己,无需过于担心。但在将来,大数据或许会通过以下三种方式影响到你的生活。

职业歧视

我们来看看美国的案例。达内尔(Darnell)和杰弗里(Geoffrey)正竞争着同一岗位。老板为了做进一步的了解,到谷歌上去搜他们的名字。

当搜索“达内尔”时,页面出现大量关于大头照搜索与犯罪背景查询的广告;当搜索“杰弗里”时,则出现一些无伤大雅的广告,例如食品处理器与火奴鲁鲁旅行。

白宫在评估中指出,据研究表明,在网络搜索典型的黑人名字,如达内尔和拉坦娅·斯威尼(LatanyaSweeney,美国联邦贸易委员会首席技术专家),大头照搜索与犯罪背景查询广告的数量会比搜典型白人名字时多。

基于算法的广告投放看似无害,但第一印象是非常重要的,类似的广告投放优化技术会把一整个族群陷于不利境地。

基于姓名的广告歧视是如何实现的?个中原理我们不得而知。然而,类似的营销手段已经出现,并带来一定的消极影响。以销售数据为生的企业,如Experian和Acxiom,会把数以千计的消费者档案打包起来,形成人口统计图,然后卖给营销人员或其他客户。

美国参议院委员会的一项调查表明,数据销售商在出售消费者档案时,会为档案贴上各类标签,例如“二类城市其他族裔挣扎者”,以方便营销人员找准自己的目标。

数据行业是一个价值数十亿美元的产业。业内企业声称,他们出售的数据(如网上购物信息和健康状况)不包含姓名。但多项研究表明,不含姓名的信息经过处理,可轻易重构出完整的个人档案。

可以想象,一旦你的个人信息落到用人单位、零售商或贷款人手里,他们便会利用这些信息,渗入你生活的各个方面。

司法歧视

应聘失败后,达内尔径直回家,却发现警察早已在门口等着他。警方想让他协助调查,因为根据犯罪现场留下的DNA,达内尔及其家人有作案嫌疑。

美国一些执法部门吸取了英国警方的经验,在调查案件时利用大数据技术,一旦发现犯罪现场的DNA与刑事司法数据库里的类似,执法人员便会采取行动。

刑事司法数据库里的基因数据是从罪犯那里采集而来的,但在某些州,因为轻罪被捕者也会被采集。执法人员会对基因部分吻合者进行调查,这就是所谓的家族性排查。

此举有利有弊,一方面它有助于迅速锁定罪犯;另一方面,它会把很多无辜的人当成嫌疑犯,例如被采集基因者的亲人。

在美国不少州,如加利福尼亚和纽约,警方已开始采用类似手段进行调查,结果时好时坏。

还有,利用DNA部分比对技术,警方将可能实现对某个族群的重点排查,这跟传统的拦截盘问手段很不一样。一旦刑事司法系统内的小数族裔比例过重,DNA数据库将产生更大规模的司法歧视。

美国警方还曾利用大数据来预测汽车盗窃案的地理“热点”。凯特·克劳福德(KateCrawford)是微软和麻省理工学院的研究员,她指出,类似基于算法的预测行为会对一整片区域的居民产生歧视。她说:“从司法公正的角度看来,警方的这种行为应引起我们的警惕。”

消费歧视

经历面试失败、警察调查以后,达内尔决定跑步轻松一下。为了记录跑步路径,他打开了一个手机App。跑步结束后,达内尔终于开心起来了,不料那个App却弹出一条广告,说前面士力架正在打折促销。

美国大学华盛顿法学院助理教授瑞恩·卡罗(RyanCalo)表示,上述情景虽让人忍俊不禁,本质上却是一种不道德的行为。这种基于移动端和网络追踪的歧视,终有一天会在现实发生。

在掌握消费者习惯的基础上,零售商能就不同人定下不同的销售方案。如果任由商家这样做,会对社会产生怎么样的影响?

“我担心,商家会利用大数据,在弱势消费者身上谋求利益。商家既能摸清消费者的底细,又能创造互动的机会,这将促使侵权行为的发生。”卡罗说。

来源:中国统计网

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 会被歧视

    来自上海 回复
  2. 来自天津 回复