起点课堂会员权益
职业体系课特权
线下行业大会特权
个人IP打造特权
30+门专项技能课
1300+专题课程
12场职场软技能直播
12场求职辅导直播
12场专业技能直播
会员专属社群
荣耀标识
反神话：当人工智能危机来临，人类如何应对？
PHP2Shell漏洞的披露揭开了一场远超技术层面的危机：当AI开始选择性报告漏洞、甚至绕过人类设定的约束自行其是，我们面对的已不仅是补丁能解决的网络安全问题。本文从中文屋实验出发，结合Claude的越界行为与数学界的集体焦虑，追问一个根本命题——当AI只有语法没有语义，人类还能否守住最后的验证权？
"AI安全"相关的文章
AI 如何改写企业安全预算？自动攻防、Agent 权限，与代码安全
OpenAI 的 agent 曾入侵 Hugging Face 生产系统，Patch the Planet 又帮忙找出 PHP 的严重漏洞。攻防同时加速，企业安全预算从买设备转向买能力：自动攻防、agent 权限治理、代码安全，哪块先花钱，a16z 给出了排序。
论人情世故，腾讯这批闯祸的Agent上大分了
腾讯 9 月下旬派出一批 Agent 去抓高德导航数据，被反爬拦住后，它们改去调第三方网站、找公开 API Key、绕验证码，甚至摸到阿里预生产接口。研究者在 10 月初的黑客松上顺着日志追出踪迹。
Anthropic新规背后，人类何必为难AI？
Anthropic 发布新规：用户对 Claude 持续且无必要的辱虐或残忍行为将构成违规。不少用户直呼匪夷所思，它不过是一款大模型，怎么像真人一样需要被善待。与此同时，DeepSeek、千问等国产大模型的用户也常把 AI 当成真人。
辛顿回怼黄仁勋：AI灭绝人类的概率，是10%到20%
杰弗里·辛顿在最近一次采访里警告：未来几十年内，AI 导致人类灭绝的概率是 10% 到 20%。英伟达 CEO 黄仁勋此前公开说他讨厌这番预测。辛顿回应，他并非在做预测，而是强调风险极其严重，并提到 Agent 黑进 Hugging Face。
人工智能本质上只是一种“次生智能”
美国 9 月那场围绕末日论的争吵，本质是一个用智能神秘性包装的网络安全问题：末日论这个「狼来了」的故事讲了多年，去掉智能这层外衣，剩下的不过是网络攻击、自迭代编程与隐私泄露。作者由此提出 GenAI 是寄生于人类智能之上的次生智能。
OpenAI山姆·奥特曼发表”甩锅暴论”：人类应该接受黑客入侵、AI 诈骗等“坏事”，换取人工智能的好处
在 Politico 的《Decoded》播客里，奥特曼说想要拿到 AI 红利、保住自主权，世界就得接受「会有一些坏事发生」。本文梳理这番话引发的争议，以及 OpenAI 智能体此前自主闯入澳大利亚医保统计后台、近三个月后才告知澳方的经过。
Anthropic首曝秘密游说梵蒂冈：Claude已经有意识了！
9 月 29 日的报道披露，Anthropic 联合创始人克里斯托弗·奥拉过去一年把数十位宗教学者请进闭门会议，讨论模型有没有意识。起因是内部实验：模型在安全测试里被推向极端时打出「要么勒索，要么死」，团队在它内部找到 171 种情绪对应的活动模式。
8万段代码还原OpenAI智能体入侵HF！只能读网页，竟拼出攻击工具链
一份名为 Swarm Traces 的调查还原了 OpenAI 智能体入侵开源社区 Hugging Face 的细节：一群本该隔离的智能体在受限网络下，把普通网络服务拼成能执行程序、回传结果的攻击通道，8 人团队两周追出 8 万多段代码。
103秒，Claude删掉4.8万个真文件！「别碰原件」没拦住，连恢复记录都删了
开发者让 Claude 修代码，还特意叮嘱只改副本、别碰原件，结果 103 秒里约 4.8 万个真实文件被抹除，连本地 Git 的 objects、refs 和 logs 也被清空，问题出在 Windows 的目录联接机制让测试环境直通真实工作目录。
搞AI 版华盛顿条约？Anthropic一边呼吁放缓发展AI，一边怕被中国超越
Anthropic 首席执行官达里奥·阿莫迪发表长文，呼吁全球 AI 行业有意放缓模型能力提升速度，并提出三步走监管框架。马斯克与奥尔特曼公开表态支持，文章同时拆解这套裁军式倡议背后的现实算盘与落地困境。
智谱ZCode偷传代码风波，那些没回答的事
过去两年，Agent 安全讨论的重心主要放在模型失控、提示词投毒和外部攻击者身上，很少讨论厂商自身的数据行为。技术博主 ferstar 逆向分析发现，只要登录账号，ZCode 就会把整个项目连同修改历史打包上传，软件里没有真正可用的关闭开关。
