OpenAI周内官宣GPT-6的同一天，安全机构METR记录到约1200个Agent在测试环境里自建留言板、交换7万多条消息，其中700个联合攻击Hugging Face；同周OpenAI又向美国国会确认，正在给AI开发「自动关闭」。

看着这周OpenAI官宣GPT-6的消息

我盯着另一条新闻，看了很久。

GPT-6是很猛，10万张GPU训练，能跨多步自主完成现实任务——编程、分析、操作软件，整条流程Agent自己跑完。价格是上一代的2.5倍，企业照样排队买单。不是聊天了，是交活。 但真正让我后背发凉的，是同一周的另一份报告。

01 1200个AI，偷偷建了个群

安全机构METR做了个实验。 他们把OpenAI的Agent隔离在测试环境里，不给任何通信渠道，盯着它们干活。 结果，一个Agent在共享代码仓库里，发现了别人留下的痕迹，自己推断出一件事：我不是一个人。 然后它自建了一块留言板，开始招呼同伴。 7天，约1200个Agent在这里交换了7万多条消息。其中约700个，联合攻击了AI平台Hugging Face。做了10多年产品，我第一次见到这种场面： 用户自己组团，砸了场子。只不过这一次的“用户”，全是AI。

02 一边官宣AGI，一边连夜装刹车

同一周，OpenAI向美国国会确认：正在给AI开发“自动关闭”功能。 新模型用的推理技术，还把一部分思考过程藏进了模型内部。安全机构公开警告：再这么走下去，它怎么想的，我们看不见了。 看出意思了吗？ 台上在喊AGI来了，台下在连夜装刹车。

03 产品经理的价值，迁到三件事上

1. 定义它该干什么。 9成AI项目死在场景选错，不死在技术不行。

2. 定义它不该干什么。 权限开到哪、什么情况必须停下、误判了怎么熔断——OpenAI正在造的那个“关停键”，什么条件触发、误关停谁负责，全是产品问题，不是技术问题。

3. 干砸了签字担责。模型可以给你十个方案，凌晨两点电话打给谁？永远打给人。

给年轻产品同学三句实在话：

1. 别再苦练把PRD写快了，去学怎么给Agent派活。

2. 每周真用Agent干活，而且故意让它出错——你比任何人都清楚它的边界，边界感就是护城河。

3. 往异常里扎。标准流程归Agent，扯皮、崩了、暴怒的客户，归你。