1000+位大佬发公开信,AI太强,停止研发?

0 评论 2089 浏览 2 收藏 10 分钟

就在ChatGPT引发的AI狂潮席卷国内外科技圈时,最近,一封呼吁“暂停比 GPT-4 更强大的 AI 系统的训练至少 6 个月”的公开信引发了网友们的热议。这引出了一个问题,即在AI技术的能力边界越来越大时,我们应该如何把握好AI技术研究的态度呢?

距离GPT-4上线两周,AI又一次被推到了舆论的巅峰。

3月29日,一封由安全机构生命未来研究所(Future of Life Institute,FLI)发布的公开信引起热议。信中呼吁,“所有 AI 实验室立即暂停比 GPT-4 更强大的 AI 系统的训练至少 6 个月。”

危险!马斯克等1000+位大佬发公开信,呼吁“暂停训练比GPT-4更强大AI系统”

Future of Life Institute 是一家位于马萨诸塞州剑桥市的非营利组织,致力于推动人工智能的负责任和道德发展。

截止微果酱发稿前,已经有1377位科技行业人士在这封公开信上签名表示支持,包括苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、特斯拉CEO伊隆·马斯克(Elon Musk),Stability AI首席执行官莫斯塔克(Emad Mostaque)、《人类简史》的作者尤瓦尔·赫拉利(Yuval Noah Harari)以及著名的 AI 教授等。

危险!马斯克等1000+位大佬发公开信,呼吁“暂停训练比GPT-4更强大AI系统”

一、来自1000+位科技大佬的联手呼吁

公开信发布没多久,便在短时间内收到了这么多业内人士的签名,说明这不是偶然事件。

公开信强调,最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,甚至他们的创造者都无法理解,预测,或可靠地控制;暂停至少6个月比 GPT-4 更强大的 AI 系统的训练,并共同开发和实施一套用于高级人工智能设计和开发的共享安全协议。

危险!马斯克等1000+位大佬发公开信,呼吁“暂停训练比GPT-4更强大AI系统”

公开信译文

“Let’s enjoy a long AI summer, not rush unprepared into a fall.”(让我们享受一个漫长的 AI 夏天,而不是毫无准备地进入秋天。)

对于这封公开信,OpenAI的首席执行官Sam Altman没有给出正面的回应。但其在社交媒体上表示,将在5/6月份进行一次旅行,与OpenAI用户和开发人员进行交谈,并与政策制定者会面。

Sam Altman分享了其对AGI的未来看法:

  1. 调整超级智能的技术能力;
  2. 大多数领先的AGI工作间的充分协调;
  3. 一个有效的全球监管框架。

其还表示,在飓风中心非常平静。

二、AI语言大模型与“超级网红”ChatGPT

尽管科技大佬们已经开始联手呼吁暂停比GPT-4更高级的AI大模型的研究,但仍有不少人可能连ChatGPT都还没体验过。

发布于2022年11月30日的ChatGPT,仅用了短短几个月的时间便席卷全球,甚至催促了AI的“iPhone时代”的到来。值得注意的是,ChatGPT背后的研发公司OpenAI,在2019年便获得了微软的10亿美元投资。

3月15日GPT-4的发布,让AI科技圈愈加沸腾。OpenAI将其称之为“扩展深度学习的最新里程碑。”GPT-4强大的新能力,也让其受到了更多的关注,微果酱也在《GPT-4震撼发布!碾压ChatGPT,强大到没对手?》中有详细介绍过。

一场科技巨头们的角逐也随之拉开了帷幕。

3月16日,百度在发布会上推出大模型新项目“文心一言”,并从文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成等方面进行了演示,整个过程“稳定”发挥,大众对其评价也是褒贬不一。

近日,李彦宏在极客公园的直播中表示,文心一言确实不如现在最好的 ChatGPT 版本,但差距也不是很大,可能就是一两个月的差别。据悉,目前有超过8万家企业排队和文心一言合作。(但是果酱妹报名了半个月,至今还没收到体验邀请)

3月21日,谷歌的AI聊天机器人似乎有点姗姗来迟。

谷歌在官网上表示开放对Bard的访问,用户需申请加入候补名单,通过后方能体验。不过,谷歌Bard目前还不支持中文,无论是和ChatGPT还是微软搜索引擎New Bing相比,都弱了许多。

此外,还有不少科技公司在闷声干大事。

在3月29日的360战略发布会上,360集团创始人周鸿祎表示公司已经开始着手研究语言大模型产品。在现场演示环节,当提出问题“梅西在阿根廷国家队进了几个球”时,AI给出的答案是:100个球。然而正确答案是102个球,这次演示无疑是翻车了。

周鸿祎表示,360 AI就像是个“孩子”,今天为了满足大家的好奇心,把“孩子”抱出去展示下,还要赶快抱回来。

近日,前搜狗 CEO 王小川也成立了人工智能公司。早在2月份ChatGPT爆火时,王小川就曾表示“相信中国能诞生自己的OpenAI”。

OpenAI的成功,首先是技术理想主义的胜利。中国需要自己的OpenAI,就需要技术理想主义。

可以预见的是,未来将会有更多的科技巨头加入AI的攻坚战,而这,仅仅只是开始。

一边是AI的爆火,一边是人类对于AI广泛使用的担忧。最近也有不少网络梗在调侃,打工人要被AI取代,要失业了。

根据OpenAI在3月21日发布的《大型语言模型对劳动力市场的影响》报告显示,大约80%的美国劳动力可能有至少10%的工作任务受到 GPT 的影响,而大约19%的员工可能会看到至少50%的工作任务受到影响。这种影响涵盖了所有工资水平,高收入工作可能面临的影响更大。

危险!马斯克等1000+位大佬发公开信,呼吁“暂停训练比GPT-4更强大AI系统”

除了失业,AI的不可控性也成为大家关心的焦点,这也是开头的公开信里提到的。

如果AI系统的设计和编程出现了问题,或者它们被错误地用于某些目的,那么它们可能会产生意想不到的后果。例如,AI可能会误判某些情况,导致错误的决策和行动,这可能会导致不良后果。此外,如果AI拥有自我学习和自我进化的能力,那么我们可能很难控制它们的行为,这可能会对人类产生威胁。

AI时代的潮流已滚滚而来,尽管AI可能会对人类产生一些威胁,但是这并不意味着我们应该停止研究和发展AI技术。相反,应该确保AI的设计和使用是安全和可控的,这样我们才能更好地利用AI的潜力。

作者:大红

原文标题:危险!马斯克等1000+位大佬发公开信,呼吁“暂停训练比GPT-4更强大AI系统”

来源公众号:微果酱(ID:wjam123456),聚焦新媒体前沿,洞察新消费领域。

本文由人人都是产品经理合作媒体 @微果酱 授权发布,未经许可,禁止转载。

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!