如何“愚弄”人工智能?

不懂技术怎么做产品?15天在线学习,补齐产品经理必备技术知识,再也不被开发忽悠。了解一下>

人工智能概念虽然已经流行了很多年,并且在一些产品上得到落地与应用。不过从使用效果来说,人工智能偶尔还是会被调侃为“人工智障”,被人们“玩弄于鼓掌之间”。

很多人用过手机地图,导航给生活带来的极大的方便,但是最近,导航地图遇到了点小麻烦——

外国一名网友,用99部手机放在小拉车里,通过在马路上缓慢行走。

有趣的事情发生了:

在他走过的大街上,谷歌地图识别出了用户高度集中的地段,还标注了“交通缓慢”。

如果此时有司机路过该路段,地图会提示司机重新规划路线,避开这条“拥堵”线路。

很神奇,通过简单的方式就可以愚弄一下谷歌地图。

一、愚弄人工智能?

随着人工智能科技技术的飞速发展,人们生活中的智能化机器越来越多,从居家到出行与人们息息相关,为改善人们生活水平做出了巨大贡献,比如说打车服务、地图导航、人脸识别、无人驾驶和智能语音等等。

这里头也不乏有厉害的巨头,比如开头提到的谷歌地图,还有现在的支付宝扫脸支付、特斯拉无人驾驶等等。

人工智能让我们惊艳科技改变生活,也让我们思考:人工智能真的比我们聪明吗?

这个世界上,总有那么一些人,不走寻常路,喜欢不按套路出牌,电脑诞生的时候,有些人不想好好使用它,而是捣鼓它,这群人后来有了一个名字——黑客,这群人有着高超的技术和超乎常人的耐力;人工智能的技术产生,似乎让黑客的门槛变低了,很多人都可以愚弄它一下。

愚弄人工智能的方式大概分这几种:模拟欺骗、逻辑欺骗和平台漏洞:

1. 模拟欺骗

就是在了解人工智能的工作能力,通过物理相似的性能进行欺骗;这种攻击因其不易察觉而引人注目。

2017年,一个计算机科学家在一个停车标志上贴了一些贴纸,愚弄了一种常见的图像识别人工智能——自动驾驶人工智能,使自动驾驶的汽车误以为这是一个每小时45英里的限速标志,这个结果肯定会让自动驾驶汽车公司抓狂。

这种愚弄可能会造成车毁人亡,要是放在国内的话,小广告到处贴,指不定这车会作出什么样不可思议的举动。

另一种比较广泛的就是大家常用的人脸识别,实名认证的时候扫扫脸,购物支付的时候扫扫脸。

如果你听到这样的消息:“某个人成功欺骗包括支付宝和微信在内的人脸识别支付系统,完成了购物支付程序,还用同样的方式甚至进入了中国的火车站。”

很吓人吧?确实,瞬间让很多人担心起“手机钱包”的安全。

这是美国一家名为Kneron的人工智能公司号称自己使用3D面具突破了支付宝、微信的人脸识别系统,还在火车站成功刷脸进站。

虽然火车站不允许你带着一个面具或者一个假人头去坐车,但是密码就写在脸上,以后出门是不是要带口罩了,就像密码保护遮住部分位数一样。

2. 逻辑欺骗

在深度理解和学习人工智能的实现原理和逻辑,围绕产品逻辑做出来的干扰行为。

我对一件事情印象很深:

当时我刚注册使用了某个购物APP后,正巧朋友家小孩子出生了,我就在上面看了一些小孩子的衣服和玩具,结果接下来的一段时间一发不可收拾,短信、app推送全是婴儿产品,打开APP,首页“猜你喜欢”都是母婴类的产品。

这明显是被电商平台的个性推荐打了奶爸的标签,这也是大部分互联网产品的逻辑。

如今,个性推介在各个地方应用广泛,比如电商推荐、头条推荐和短视频推荐等等,个性推荐本来是更好的服务用户体验,结果有些人就钻了漏洞,我见过淘宝刷单的物理外挂——猫池,

还有为了提升短视频浏览量和知名度,几百部手机24小时物理刷视频的僵尸手机集群。

这些属于钻空子赚钱的黑客,还有一些闲来无事的搞怪,比如说你朋友圈的总有一个天天跑步第一名的人物,要么他是快递小哥,要么他可能用了摇一摇物理外挂欺骗了手机。

3. 第三种就是平台漏洞

这一种就是传统黑客比较喜欢的,深挖人工智能平台的BUG,比较有名的时间就是“海豚音攻击”。

如今,智能手机、可穿戴设备以及智能家居等都搭载着语音助手,Siri、小biu智能家居等语音控制系统变得越来越流行,但你觉得语音控制是安全的吗?

如果将语音命令频率转换成为海豚音级别的超声波,因为超出人耳接收频率的范围,无法被人听见,却可以被手机、智能家居以及智能手表等智能设备的语音控制系统接收到。

再利用麦克风的硬件漏洞进行还原成原始的语音命令,就可以让智能语音助手执行海豚音的控制命令,造成人工智能识别和决策的失误;

人工智能是美好的,也是脆弱的,稍微愚弄一下就可能变成了人工智障;现有的“深度学习”机器的还是存在一定的局限性。

二、为什么可以愚弄人工智能?

我们来翻一翻人工智能历史——人工智能是计算机的第三次发展浪潮,是对传统计算机的延伸和扩展。

我们先来看看传统的计算机,它的工作原理就是有一个确定的输入,就有一个确定的输出。

对于机器来讲,原理也一样。

机器通过感知到一种信号,然后作出相应的回应,人工智能也是相仿;你给它一个感知的信号,通过机器学习后,它会有一个特定的输出,

如果你干扰了他的输入或者欺骗了他的输入,他就是有错误的输出的,也就是我们看到的“变成了人工智障”。

现在的人工智能就像90年代的香港僵尸片里的僵尸,撒上一把糯米粉在脸上,僵尸就看不见你了!

不过,这也让我想起来一件很好玩的事情:

作为女人,化妆是一件很正常的事情,无论是她化妆还是不化妆,身边的朋友都能认出她来。

但是在一次车站坐火车,现在的火车站是人脸识别扫描进站,无人值守检票。

我前面的一位美女拿着身份证刷了半天,就是没刷进去——原来身份证与本人相差太大。

我瞄了一眼,前面的美女挺漂亮的,就是身份证没化妆,人脸识别失效了,终于走了又长又慢的人工通道才进站的。

针对机器来讲,她看不出来你有没有化妆,他只知道化妆的你和身份证上的你不一样,稍微的一个化妆就给人工智能产品的应用带来了抓狂的烦恼。

所以提个小建议,下次录入智能手机面部识别密码的时候,一定得化妆的漂漂亮亮,不然就识别不到美女了!

三、拥抱未来

因此,尽管人工智能产品具有所有好处和技术带来的便利,但是人工智能产品的脆弱性也不能忽视——矛与盾天生就是一对冤家,人工智能和愚弄人工智能也是一对冤家,在“尔虞我诈”的较量中,相信人工智能产品能够逐渐强大起来。

虽然完全取代人类的工作的道路还很长,不过很快就会到来;我还是非常庆幸自己能生在这样一个时代,有机会能经历人工智能快速发展、融入我们生活的时代。

最后,通过我最喜欢的周星驰的话做个结尾:

  • 周星驰:他好像一条狗哎!
  • 小朋友:他是孙悟空!
  • 人工智能:猴子…猴子…猴子…

 

本文由 @产品包工头 原创发布于人人都是产品经理,未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议

给作者打赏,鼓励TA抓紧创作!
评论
欢迎留言讨论~!
  1. 人工智能不管是语音识别也好,图像识别也好,最大的问题就是检测方式太单一,检测过程太明显。这就像考试的时候老师跟你不要作弊,我看着呢。

    回复
    1. 所以现在的人工智能是否是个伪命题呢?所谓的智能就是有特定的输入和特定的输出的计算机,只是逻辑更加复杂和人性化,离真正的智能还有点远

      回复