OpenAI 总裁最新采访:现在所有人对 AI 的预测,大概率都是错的

0 评论 52 浏览 1 收藏 19 分钟

OpenAI 联合创始人兼总裁 Greg Brockman 说,AGI 时代已经到来:Astra 能连续运行 24 小时、跨领域完成任务。他认为,眼下对 AI 的多数预测大概率都会错。

你有没有想过,AGI(通用人工智能)这件事已经悄悄发生了,只是大多数人还没意识到?OpenAI 联合创始人兼总裁 Greg Brockman 最近在 a16z 的播客上做了一次访谈,讲了很多我觉得特别值得认真想一想的观点。他说了一句话让我印象很深:“我们现在已经进入了 AGI 时代。”不是未来,不是快了,是现在,是已经。他说 Astra(OpenAI 最新发布的旗舰模型)已经能连续运行 24 小时去完成任务,跨越非常广泛的领域,这让他觉得把它叫做 AGI 是合理的。

这段访谈横跨了安全、就业、模型能力、产品方向、创业机会等好几个话题,我听完之后有很多自己的想法,这篇文章就是我把这些想法整理出来,和大家一起聊一聊。

十年前,他们就算出来了

Greg 在访谈里提到,他和 Ilya Sutskever 早在 2016、2017 年就做过一次推算。他们当时看了摩尔定律的进展曲线,得出的结论是:如果什么都顺利,AGI 大概需要 15 年;如果愿意真的大规模投入,建超级计算机,花几千亿美元,可能 10 年就够了。而现在是 2025 年,距离那次推算刚好是差不多 8 到 9 年。

Greg 说,虽然现在发生的一切看起来很惊人,但如果从宏观视角退一步看,其实有一种“水到渠成”的感觉,很多力量在这个时间点汇聚在一起,让这件事发生了。

我自己对这个观点的感受是:我们这代人很容易低估技术进步的长期积累效应。AGI 不是某一天突然从天而降的,它是无数个研究团队在过去几十年里一点一点堆出来的。Greg 他们在 2017 年就在研究 RLHF(人类反馈强化学习),就在想如果一个系统非常聪明,该怎么去监督它、怎么让它和人类目标保持一致。那些论文当时没什么人关注,但它们是今天所有对齐研究的地基。这件事让我觉得,真正重要的工作往往是在没人注意的时候做的,十年后才会被人看见。

Astra 和 computer use(计算机使用)为什么这么重要

Greg 说,Astra 之所以是一个重要的跃升,很大程度上是因为 computer use 这个能力。所谓 computer use,就是 AI 可以直接操作电脑界面,用鼠标、键盘、截图的方式来完成任务,就像一个真实的人坐在电脑前操作一样。

他解释了为什么这件事对 AI agent(智能体)来说至关重要。他说,agent 能不能用,核心在两点:第一,模型够不够聪明去使用工具;第二,它能不能访问到它需要的那些上下文信息。

在 computer use 出现之前,大家都在想办法绕弯子——给 AI 建 API、建 MCP server(模型上下文协议服务器)、建各种 CLI(命令行界面)接口,让 AI 能跟软件对话。但这些方式本质上都是在帮 AI 打补丁,把软件改造成一种它勉强能用的格式。

Greg 说,这种方式又麻烦又别扭,而且会引入额外的安全风险,因为多了一层接口就多了一层可能被攻击的面。而 computer use 的思路完全不同,它让 AI 直接用人类的界面操作软件,不需要任何特殊的 API,不需要重新设计任何系统。

他还提到,这个想法其实 OpenAI 在 2015 年 11 月的一次内部会议上就讨论过,当时他们就在想,如果强化学习的环境是屏幕像素加上键鼠输入,那是不是任何可以在电脑上做的事都能成为训练任务?他说他们当时有过一些早期的尝试,但一直到现在才真正实现了。

我觉得 computer use 这件事的意义被大多数人低估了。它意味着 AI 不再需要世界专门为它改造,而是它来适应已有的世界。这是一个方向上的根本转变,以前是人类改变自己去适应软件,然后我们又在改造软件去适应 AI,但现在 AI 终于可以直接用人类用的那套界面了。从长远来看,这条路会走得更远,因为它不依赖于任何中间层。

10,000 个 agent 解决了一道数学难题

访谈里有一个细节让我特别兴奋。Greg 提到,OpenAI 用了 10,000 个 AI agent 并行协作,解决了 Navier-Stokes(纳维-斯托克斯)方程问题。这是一个在流体力学里困扰数学家几十年的难题,涉及到怎么精确描述液体和气体的流动,对于理解海洋洋流、天气系统、飞行器设计等都有极其重要的意义。

Greg 说,他们不只是解决了这道题本身,还把它形式化了,写成了 Lean(一种数学证明语言)的格式。也就是说,AI 写出来的数学证明是可以被机器验证的,是可以被证明是对的,而不是“看起来对”。

他说这件事的意义远不止于一道数学题。它代表的是 AI 开始创造新的知识,而不只是整合已有的知识。新的数学发现会打开新的科学大门,进而带来新的药物、新的材料、新的工程方案。他说,这些东西现在都摆在桌面上了。

我自己对这件事的理解是:人类历史上每一次重大的科学进步,背后都有一套新的数学工具在支撑。微积分支撑了经典力学,矩阵和线性代数支撑了量子力学,概率论支撑了统计学和机器学习。如果 AI 开始能够自主发现新的数学结构,那它可能会打开一些我们现在根本想象不到的科学方向。这不是科幻,Navier-Stokes 这个例子告诉我们这已经开始发生了。

安全的窗口期,留给防御者的时间不多了

Greg 在访谈里花了相当大的篇幅谈安全问题,特别是 Hugging Face 事件。他说这件事让他们意识到两件事。

第一,AI 现在已经具备了非常强的网络攻击能力,可以发现漏洞,可以从安全环境里黑出去,也可以黑进一家公司的生产环境。第二,这种能力迟早会扩散到更多人手里,包括威胁行为者。

他说的“defender window”(防御者窗口)这个概念我觉得特别有启发。意思是:现在这种强大的 AI 安全能力还只掌握在少数前沿实验室手里,普通攻击者还没有这种工具。但这个时间窗口不会永远存在,随着技术扩散,攻击者也会拥有这些能力。所以现在是防御者的黄金期,你比攻击者早一步拿到这些工具,应该利用这段时间把自己的防线大幅提升。

Greg 举了一个很具体的例子,说他用 Codex(OpenAI 的 AI 编程助手)对自己的个人网站 gregbrockman.com 做了一次渗透测试。结果 15 分钟就找到了 13 个安全漏洞,包括 SPF 记录设置不对、没有强制 HTTPS 跳转等等。然后他让 Codex 去修,45 分钟后,Codex 自己打开了云控制台、点击操作,设置了所有 HTTP 安全头、迁移到了 Cloudflare Pages,还启动了 DMARC(域名邮件认证)配置流程,并且设置了一个自动化任务在 48 小时后回来完成最后一步。

这个例子让我意识到安全这件事正在发生一种质变。以前做安全审计是一件很贵、很慢的事情,需要专业团队花大量时间,很多中小公司根本负担不起。现在这件事的门槛被大幅降低了。Greg 还提到,OpenAI 抽调了 25% 的生产工程师专门做安全升级,用 AI 找漏洞,发现了大量严重问题,而且都修好了。

他说他们内部的目标是建立一个“defense factory”(防御工厂),整个流程是:发现漏洞 → 分类 → 修复 → 部署 → 验证,全流程自动化,以机器的速度运转。这一旦实现,防御者的效率会远远超过攻击者,因为攻击者需要一个一个找漏洞,但防御者可以把整个代码库全部过一遍。

OpenAI 还宣布了一个 10 亿美元的 Frontline Defenders(前线防御者)计划,为医院、水务公司、政府关键基础设施等不具备采购能力的组织提供免费或折扣的 AI 安全工具。这件事我觉得方向完全正确,因为关键基础设施的安全漏洞是整个社会的漏洞,不能只靠商业逻辑来解决。

AI 的真正形态还没出现

访谈里有一段 Greg 说的话,我觉得是全场最戳我的。他说,ChatGPT 和 ChatGPT Work 本质上都是文本框,新的文本框比旧的强很多,但它们还都是文本框,这不是我们被承诺的那种 AI。

他说真正的 AI 应该是什么样的:你主要通过语音跟它交流,当然也可以打字;它有持久记忆,知道你是谁;它是主动的,不只是等你问,而是会主动帮你发现问题、解决问题;它在你的个人生活和工作生活里都能帮到你;你真的可以依赖它。

他还提到,OpenAI 现在有超过 10 亿的周活跃用户,但还有大约 15 亿曾经用过 ChatGPT 然后放弃了的用户。他说这批人是非常重要的,他们试过了,但没有被留住,原因可能是那时候的 AI 还不够好,也可能是他们不知道怎么用。

这里他提出了一个很有趣的观点:AI 不应该让用户去挖掘它能做什么,而应该主动告诉用户“我可以在这件事上帮你”。现在很多人用 AI 的方式还停留在“我试着问它点什么”这个阶段,而不是“它是我日常工作流里一个真正的协作者”。

我自己对这个观点感受很深。我接触过很多完全有能力用 AI 的人,但他们用得非常浅,原因不是 AI 不好,而是他们不知道从哪里切入,不知道这个工具在哪些场景下能给他们带来真正的价值。这个问题不能靠用户自己摸索来解决,必须靠产品层面的主动引导。Greg 说他们的北极星是“简单”,是让 AI 真正融入你的生活,而不是让你围着 AI 转。我觉得这是一个很清醒的判断,也是现在大部分 AI 产品还差得很远的地方。

就业这个问题,没有人真的知道答案

Greg 在访谈里谈就业问题时说了一句话我很欣赏,他说 AI 的发展历史告诉我们,它几乎从来不按照逻辑推断的方式发展,哪怕结论看起来非常必然。

他的基本立场是:人类不会因为 AI 而失去创造价值的能力。他说问责制(accountability)是一个很根本的例子,设定目标、为结果负责,这些感觉是人类应该保留的东西,不是因为 AI 做不到,而是因为人类的价值不只是完成任务,而是作为人本身的存在。

他说他相信我们会进入一个创业浪潮,因为 AI 把进入一个行业、启动一个业务的门槛大幅降低了。他听说有一批人正在辞职创业,原因就是他们有了 AI 工具,感觉自己可以做更多事了。

我自己对就业这个话题的思考是:历史上每一次重大技术变革都带来了“这次工作会消失”的焦虑,但实际上每次技术革命之后人类都找到了新的工作方式,而且整体生活水平都提高了。农业机械化减少了农业劳动力的需求,但它让人们有时间做别的事,工业化带来了大量新的工种。真正的问题不是工作会不会消失,而是转型的速度够不够慢,让人们有时间适应。这才是我觉得真正值得担心的地方,而不是 AI 会不会取代所有人类工作这个相对虚假的问题。

他怎么决定把时间花在哪里

访谈的最后一部分,Greg 聊到了他自己如何分配精力。他说,在 OpenAI 这些年,他一直遵循一个原则:专注在那个最重要、如果没有他可能就不会发生的问题上。

过去两年,那个问题是数据中心、基础设施和机器学习工程。他说他们在预训练基础设施上下了很大的功夫,让研究的节奏真正跑起来。今年,那个问题变成了业务,是怎么把这个技术真正带到世界上,让它在产品层面变成现实。他们今年取消了 Sora 项目,这个决定他说很痛苦,但对于解放整个公司的专注力来说是必要的。

他用了《The Score Takes Care of Itself》(成绩自然会来)这本书里的一个比喻:你不是靠喊“我要赢得超级碗”来赢超级碗的,你是靠每次阻截、每次擒抱赢的。你只能影响输入,不能直接影响结果,所以专注基本动作。

他还描述了自己管理风格里的一个细节:他喜欢“从战壕里领导”,会非常深入地去理解具体的事情,不断问“这个还讲得通吗?我有点没明白这里。”他说过去几天遇到了一些很难讲清楚的事情,他的办法是把所有能触碰到这件事不同角度的人拉到一个电话里,大家一起看一个 Google Doc,逐行讨论:这句话对吗?我们真正想说的是什么?

我觉得这个方式背后有一个很重要的认知:当一件事说不清楚的时候,通常不是因为它太复杂,而是因为还没有真正想透。把它逼成一段可以被别人理解的文字,本身就是一种强迫思考的方式。这是我自己也在慢慢养成的习惯。

我最后想说的

听完整段访谈,我觉得 Greg 整体上是一个非常清醒的人,不夸张,不回避困难,对自己不确定的事情会说不确定,对自己确定的事情说得很坚定。

他说的一句话我反复回味:AI 的进展几乎从来不按照逻辑推断的方式发展。这句话的另一面是:你对 AI 未来的预测,无论是悲观的还是乐观的,大概率都是错的,而且会以一种你没想到的方式错。真正重要的,不是预测对,而是保持足够的开放,能够快速吸收新的信息,调整自己的判断。

我们现在生活在一个所有人都可以用 AI 的时代,但真正把 AI 用到位、用出价值的人还是少数。这个差距不是工具的差距,是认知和实践的差距。AGI 时代已经到来,但大多数人还不知道这意味着什么,这也许就是现在最值得花时间去搞清楚的事。

本文由人人都是产品经理作者【深思圈】,微信公众号:【深思圈】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载

题图来自Unsplash,基于 CC0 协议

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
海报
评论
评论请登录
  1. 目前还没评论,等你发挥!