AI的暗面:Sam Altman从OpenAI离职又回归的新视角

0 评论 2462 浏览 2 收藏 10 分钟

就在最近这几天,OpenAI内部迎来了大变动,Sam Altman“被辞退”,结果又有消息传出他会重回OpenAI。那么在这波曲折的“剧情”之后,我们可以窥见怎样的暗面?一起来看看本文的分享。

看到新闻说Sam Altman重回OpenAI,这暂时为这场大戏画了个句号。但此事绝对足以写入AI发展历史,所以换个视角再做下解读。正面的解读参见:Sam Altman卸任CEO的几点猜想

一、当理想成为阴谋的素材

你把班级同学聚在一起吃饭都没那么容易,何况罢免公司的一号,二号人物。所以这一定是一个强组织的事,强组织的事如果没有明面的结构就必然有暗组织与暗主导。(非事后诸葛,参见前文)

而落到具体方法上,6个人的董事会,首席科学家Ilya就很关键,因为它是真正的一级利益相关者,它在公司里面,本来应该坚定的站在对公司有利这一面,而只要它不倒戈,那就无法罢免Sam Altman。但很不幸,这兄弟更像是个纯粹的理想主义者,不单想捍卫自己的理想,还在自认为正确的信念下积极行动。他捍卫自己理想纯粹性的行动,几乎把理想的载体(OpenAI)干稀碎。

这就是第一个暗面:但你极端化你的理想和信念的时候,你可能就是实现它的最大威胁。尤其当野心家存在的时候。

我有时候就想天才科学家是不是不要干CEO或者政治家干的事,这俩事一个太综合一个则太纯粹,实在差别太大。

二、从不缺席的密室谋划

也许我们到最后也不一定搞清楚,其余三位董事到底是怎么联合起来的,但显然没有它们赋予的责任那么阳光。他们号称使命是为人类负责,但其实更多考虑的恐怕是不太能说的因素,甚至都不能对OpenAI负起责任。

最终OpenAI的员工的选择其实反衬着Sam Altman并没有真的背弃自己的理想,但在这样的一个时候,暗箱运作,阴谋出手,把Sam Altman搞下去,再怎么粉饰也是野心家。这不只是对Sam Altman,而是对整个组织不利的行为,这是董事应该做的事么?

行事的方式上也明显的鬼鬼祟祟,连Greg Brockman都是被突然通知,被干成一脑袋问号。这不就是暗箱策划突然发难么!对于一个奋斗了七年多的核心团队,并且还在危机四伏的时候,突然这么来一下,中国历史上还真就和刘邦抓韩信差不多,十分神似。

这是另一个暗面:总是有堂皇的理由来粉饰某种行动,但当手段足够阴暗的时候,很难拿目的正当性来粉饰它。即使粉饰了,旁观者也一定不能相信(显然的Ilya Sutskever这个首席科学家信了,还帮着吆喝和助力)。

创过业的同学大概都知道,人脑每天带宽差不多是满的。所以Sam Altman未必不知道董事会有点够呛,但肯定没预料到会突然行动,也没预料到Ilya的倒戈。

勇于谋事,无暇谋身,结果差点没挂了。这和故事里的主角们正在踌躇满志,征战天下,然后突然被暗杀了其实差不多。

真要追究,动因其实也就那么多,在过去利益冲突远多于理念冲突,也许更富裕之后会改变这种配比,现在还不行。

三、自我纠错机制

Sam Altman的回归似乎应该感谢OpenAI的员工们。

董事会任命CTO Mira Murati为CEO应该是预先考虑的平稳过渡方案中很关键的一环,至少是第一步。

按正常套路如果这美女倒戈再辅助在内部收拾局面,那也许事有可为,但有意思的事大家齐刷刷不买账(90%以上员工主动站队)。大家态度很明显:你们这什么套路,我们不接受,也没得谈,要么一拍两散,要么就纠错。

这里面Greg Brockman不接受是引子,但他确实有足够动因这么做,后续的这些就相对会罕见一些。尤其是CTO Mira Murati,这可是传说中的升职加薪,人就是不干。这次阴谋不敌理想。

再深一层,这是什么概念呢?

这意味着在董事会层面纠错机制失效的情形下(有法律确保的权利机制),本来没发言权的人团结了起来,然后变成了重要力量。

这七百多人的统一组织,如果没有一定的统一认识和基础,绝对不可能。让这七百多人统一行动估计很多时候比管好一个城市都费劲,所以我们有理由相信这是自底向上的。

这种机制会非常关键,尤其当GPT5一路迭代而来的情况下。

这里确实会变成AI最大的暗面。

四、AI“执剑人”

这事的无厘头在于,这是一个号称为人类负责的董事会做出来的事。

如前所说,这个董事会看起来不单不能为人类负责,甚至还不能为OpenAI负责(相当于90%多人投反对票)。

如此无厘头的行为最终如果追溯,动因肯定不好看。

所以碳基智能体属实不怎么靠谱。

发展下去,当AI变得足够强大,总是有那么一小波人会被选出来作为执剑人。这能靠谱么,不靠谱的话这就是最大的暗面。

(当然最基础的部分肯定是法规,但现实空间和数字空间的时间流速其实不一样,以慢制快的问题会越来越暴露的更清楚)。

所以到后面确实需要新的机制和制衡,比如开源、透明等等。

五、后续

后续会发生的事其实倒相对明朗一些,如果Sam Altman确实回到OpenAI,那它后面彻底崛起大概率会发生。什么商业和技术理想的平衡,在这个例子上绝对不是大障碍。乔布斯、马斯克这些人那个不是把这两者搞成了互相促进,而不是对立。

为什么这么说呢?因为一定程度上,这次波折可以看成是苦难辉煌里的苦难部分。这之后权利结构肯定会重构和再平衡,但更关键的是这会变成一个超级团队,700多个本来奇形怪状,各有主张的人,彻底的团结到一起,更加协力,再加上资金不缺和此前的先发优势,那恐怕真会一骑绝尘了。

还没完,老套故事里通常会发生的事情是Sam Altman这个角色会黑化一点,黑化的结果就是没那么信任周围的人,变的更加集权,这如果过度就会很像皇帝晚年,反倒是会对组织构成更大的伤害。但这哥们看着确实不像是这种风格。

希望不会,毕竟这世界还是需要一个领头的AI团队。毕竟在这个时间点AI不是太强,而是还弱,离一个全行业的盈亏平衡点还有几分距离。

小结

最终的结果取决于什么呢?看起来取决于原点上的价值结构。山川河岳,文化历史所汇集成的价值结构。越数字、越智能主观的这一点就越重要。

专栏作家

琢磨事,微信公众号:琢磨事,人人都是产品经理专栏作家。声智科技副总裁。著有《终极复制:人工智能将如何推动社会巨变》、《完美软件开发:方法与逻辑》、《互联网+时代的7个引爆点》等书。

本文原创发布于人人都是产品经理。未经许可,禁止转载。

题图来自 Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
海报
评论
评论请登录
  1. 目前还没评论,等你发挥!