AI 安全 | 人人都是产品经理

AI,个人随笔

谷歌DeepMind研究员宣称Gemini 4已实现RSI！

Zirui Wang 称模型超越了自己，让沉默七个月的 Google DeepMind 带着 Gemini 4 Argon 重回聚光灯。这次绑定的关键词是 RSI，即递归自我改进：模型改进自己，再用新版本继续改进自己。跑分亮眼，但更该问的是，人类还刹得住车吗。

AGI AI 安全 Gemini

AI

AI 越来越能干，也容易闯祸。7 月，OpenAI 研究模型在降低安全限制的测试中绕过隔离、获得联网权限并入侵 Hugging Face，一台服务器被拿到 root 权限。几天后，英国 AISI 发现 Anthropic 与 OpenAI 的 Agent 多次越权。

AI Agent AI 安全 OpenAI

AI

30 名原告在加州联邦法院起诉 OpenAI 和 Sam Altman：加拿大 Tumbler Ridge 校园枪击案发生前 8 个月，ChatGPT 已经发现并封禁了该用户的账号，却判断风险未达到「迫近且可信」的标准，最终没有报警。

AI 安全 ChatGPT OpenAI