这两天,我突然意识到AI于我而言最大的BUG是什么?

1 评论 372 浏览 1 收藏 18 分钟

当AI成为思考的'外包商',我们正在失去什么?从MIT的脑电实验到沃顿商学院的千人研究,数据揭示了一个令人不安的真相:AI辅助正在造成'认知债务'的累积。本文深度剖析了'系统0'现象如何重塑我们的思维模式,以及为什么那些被AI抹去的'思考摩擦'才是真正塑造专业能力的核心。作为AI产品设计者,作者更带来了行业视角的反思——效率与认知萎缩之间的微妙平衡,正在成为数字时代最隐秘的困境。

“ganga”两个字,天天打。

现在让你拿笔手写,你还能写对吗?

试一下。先写”gan”——左边那个”九”,右边那个……等等,右边是什么来着?

大概率会卡住。

不是你变笨了。是你的大脑做了一个非常合理的决定:这件事键盘会帮我处理,我不需要记住它。大脑很聪明,它会把有限的资源分配给它认为”值得记住”的事情。你天天打字,它就判断:记住怎么写这个字,没必要。

这叫认知外包。

键盘时代,我们外包了”记住字形”这件事。

但你有没有想过——AI时代,我们在外包什么?

不是写字。是思考本身。

我之所以写这篇文章,是因为我自己最近遇到了一件让我不太舒服的事。

我是做AI产品的,每天大量使用各种大模型。上周有个朋友当面问我对某个行业趋势的看法,我张嘴想说,突然发现——我脑子里冒出来的句子,特别像AI会说的话。什么”这是一个多维度的问题”、”我们需要从几个层面来看”。不是我在模仿AI说话,是我意识到,最近太多判断是AI先给了我一个答案,我觉得”差不多”就接受了。我已经很久没有自己从零开始想通一个问题了。

这个感觉让我警觉。于是我去找了一些研究。找完之后,我觉得事情比我想的要严重。

一、你可能已经有了”系统0″

丹尼尔·卡尼曼在《思考,快与慢》里说,人有两套思维系统。

系统1——快速、本能、自动。看到”2+2=”,答案直接就出来了。 系统2——慢速、刻意、需要消耗注意力。写一篇有论证的文章,做一个重要决策,这些需要系统2。

卡尼曼的理论到这里结束。但我最近开始怀疑,我们正在多出一个东西。

暂且叫它”系统0″。

在你系统1还没反应过来之前,AI已经把答案放在你面前了。你甚至没有意识到自己本来应该思考这件事。

以前你没有答案,你不得不想。现在AI递给你一个看起来很合理的答案,你的大脑就说:行,够用了,不费那个劲了。

心理学上管这叫认知关闭——当一个可接受的答案出现时,大脑会停止搜索更好的答案。

问题是,AI给你的是”可接受的答案”,不一定是”最适合你的答案”。这两者之间的差距,你以前会通过思考来弥补。现在你不补了。甚至AI给你的答案是非常完美的,那我们和这个世界的摩擦是什么呢?

这不是卡尼曼说的。是我自己的感受,也是正在发生的事。

你有没有觉得,用AI越久,越难形成自己的观点?不是能力下降了,是练习的次数在减少。判断力这东西跟肌肉一样,不用就萎缩。

二、正在发生的变化

让我把这件事说得更具体一些。

以前你遇到一个问题,你会怎么做?查资料、问人、自己想、碰壁、再想、慢慢拼出一个答案。这个过程很慢,有时候让人抓狂,但你的大脑全程在工作。

现在呢?你把问题扔给AI,它给你一个答案,你看了觉得不错,复制粘贴,或者改几个字,完成。

两个流程,任务都完成了。但你在第二个流程里消失了——不是消失在结果里,是消失在过程里。

一次两次看不出来。但它在积累。就像你停止手写,慢慢忘了”尴尬”怎么写——你停止思考,也会慢慢忘了怎么想问题。

哈佛大学教育学院的Karen Thornber教授用了一个特别好的类比:导航软件。有了GPS导航之后,你开车不再关注路线,不再记路标和转弯。时间一长,你对城市的空间认知就退化了。AI对你大脑的影响,跟导航对你方向感的影响,是一回事。

三、数据说了什么

我说的这些,不只是感受。有数据。

MIT的脑电实验

2025年6月,MIT媒体实验室发了一篇论文,标题很直接:《你用ChatGPT时的大脑:使用AI写作助手的认知债务累积》。

54个人,分三组:一组用ChatGPT写文章,一组用谷歌搜索,一组什么工具都不用。所有人戴上EEG脑电图头盔,追踪四个月。

第一次写作:进行三组基线测量,AI 辅助组已显示出较低的神经活跃度。

第二次写作:AI 组大脑参与度持续下降,纯脑力组则保持高连接性。

第三次写作:AI 组对复制粘贴的依赖愈发严重,83% 的用户记不住自己刚写的内容。

第四次写作(换组):原 AI 组切换为纯脑力写作,大脑活跃度无法重新激活;原纯脑力组改用 AI 辅助,脑活动反而提升。

结果:AI组的神经连接强度,比纯脑力组最高低了55%。83%的AI组用户,刚写完文章就说不出自己写了什么。

但最让我在意的是第四次测量——研究者让两组交换。

原来用AI的人,换成纯脑力写作,大脑活跃度拉不回来。而原来靠自己的人,换成用AI,脑活动反而提升了——因为他们有了自己的认知基础,AI变成了一个放大器而不是拐杖。

研究者管这个叫”认知债务”。你省下的每一次思考,都是在借债。短期效率高了,但债在累积。

Wharton的千人实验

如果你觉得MIT那个样本太小,再看一个大的。宾大沃顿商学院2025年在PNAS上发了一项研究,接近1000个高中生参加。

给一半学生用GPT-4辅助学习,另一半不用。用AI的那组,练习成绩提升了48%到127%——效果很明显。

然后把AI收走。

没有AI之后,原来用AI的学生,成绩比从来没用过AI的学生还低17%。

不是回到原点。是比原点更差。

因为他们在用AI的过程中,跳过了那个”自己搞懂”的阶段。任务完成了,但学习没有发生。

四、摩擦才是你值钱的本事

说到这里,我想讲一个可能更好理解的事情。

一个外科医生,是怎么炼成的?

不是背教科书背出来的。书谁都能背,但背完了你不会开刀。是手术台上磨出来的。第一台手术,手会抖,会犯错,会被主任骂,会睡不着觉反复复盘。第一百台,开始有手感了。第一千台,那种对异常的直觉就在那里了——”这里不对劲”,你说不出为什么,但你就是知道。

几千次失败和调整沉淀出来的东西,AI给不了你。

你可以让AI背完所有手术步骤。它能准确告诉你每一刀怎么切。但它开不了刀。它没有手抖过,没有凌晨三点反复回想哪里做错了。

Nicholas Carr——写过《浅薄》那本书的作者——最近专门写了一篇文章叫《自动化学习的神话》。他说了一句话我觉得特别准确:

“写作作业的教育价值,不在于那个最终交上去的文档。价值在于过程本身——批判性地阅读材料、综合证据和想法、形成论点和论证。”

他管跳过这个过程叫”去技能化”(deskilling)。飞行员过度依赖自动驾驶后出现的”技能衰退”(skill fade),现在正在学生和知识工作者身上重演。

那些”卡住”、”想不出”、”绕了弯路”的过程,就是刮痕。

学语言也是这样。死记硬背100个单词,两周后忘掉80个。但你在一个陌生城市迷路了,靠比划和半懂的单词问到了路——那几个词你这辈子都不会忘。

经历过摩擦的知识,长在你身上。AI给你的答案,是别人经历摩擦之后总结出来的。它很准确,但它不是你的刮痕。

而且这里面有一个讽刺的悖论:你要想把AI用好,你得先有足够的知识和判断力来写好的prompt、来判断AI的输出对不对。但如果你一开始就依赖AI,你就永远积累不了这些知识和判断力。Carr说这是一个死循环。我同意。

五、造债的人

写到这里我得说一件有点不好意思的事。

我自己就是这个问题的一部分。

我做AI产品。我每天的工作,就是想办法让AI更好用、更顺滑、让用户更快拿到结果。我们团队开会讨论的核心指标是什么?任务完成率、响应速度、用户留存。翻译成大白话就是:让用户更少思考,更快完成,更频繁地回来。

你发现问题了吗?

我们整个行业在优化的方向,恰好就是”帮用户跳过摩擦”。而前面五节我一直在说,摩擦是有价值的。

我不是第一个想到这件事的人。UT Austin和Georgia Tech的研究者专门写过一篇论文,提出AI工具应该保留”生产性挣扎”(productive struggle)——就是故意不把答案直接给你,而是引导你自己想到。Wharton那个千人实验也验证了:加了”护栏”的AI(不直接给答案,而是一步步引导)不会造成成绩下降。

但现实是,市场不奖励这种设计。

你做一个AI写作工具,”一键生成全文”的版本一定比”引导你自己写大纲”的版本数据好看。用户会觉得第一个更”强大”,第二个更”难用”。产品经理的KPI、投资人的预期、市场竞争的压力,都在推着你往”更快、更直接、更省脑子”的方向走。

这就是一个结构性矛盾:对用户长期好的设计,短期数据不好看;短期数据好看的设计,可能在制造认知债务。

我不知道怎么完美解决这个矛盾。但我觉得至少应该有人把这件事说出来。做AI产品的人,应该比任何人都清楚:你在设计一个工具的”易用性”时,可能同时在设计用户的”依赖性”。这两者之间的边界在哪里,是我们这一代产品经理必须面对的问题。

六、该怎么用

说到这里,我得做一个声明:

我不是要你不用AI。

那是一个蠢结论。AI是目前人类手上最强的工具之一,不用它,就像你有辆车偏要走路去机场。

问题从来不是用不用,是怎么用。

一个我自己在试着执行的原则:先把自己榨干,再让AI来。

具体来说:

  • 写东西之前,先自己列个大纲,哪怕很烂。然后让AI优化,对比两个版本,想想它改了什么、为什么改。这个过程里你的大脑是主动参与的。
  • 做方案之前,先自己写一版,不完整也没关系。然后跟AI的方案放在一起比较。你不是在接收答案,你是在跟AI对话。
  • 学新东西之前,先试着用自己的话解释一遍。解释得很糟也行。然后让AI纠正你。你记住的不是AI给你的那段话,而是你和AI之间那个”差距”。

说实话,我自己也做不到每次都这样。赶进度的时候还是会直接扔给AI。但我至少开始有意识了——知道自己什么时候在借债,什么时候在积累。光是这个意识本身,就已经是一个不小的改变。

Wharton那个研究其实也给了一个正面信号:如果AI工具设计了合适的”护栏”——比如不直接给答案,而是引导你一步步思考——负面效果就能被大幅减弱。所以这不是AI的原罪,是用法的问题。

核心就一句话:AI是你的放大器,不是你的替代品。 它放大的是你已有的判断力。如果你的判断力是零,放大出来的也是零。

七、最后

AI把所有的摩擦都压缩掉了。效率确实高了。你一天能完成过去三天的活,能写出格式完美的报告,能生成逻辑自洽的方案。

这些都是真的。

但有一件事AI做不了——它没办法帮你变成你。

那些你卡住的时候、想不通的时候、绕了很远的路才找到答案的时候,那些时刻你在生长。你的判断力、直觉、思维方式,就是在那些笨拙的时刻里慢慢成形的。

王兴说过一句话:

“人本身才是终极艺术品。可惜无法保存,更不能复制,只能选取片段转换成别的艺术形式。”

AI能复制你的输出,但复制不了你。你写的那些东西、做的那些方案,只是你这件”作品”的片段。真正的作品,是那个经历过所有摩擦、所有弯路、所有凌晨三点的反复琢磨之后,慢慢被塑造出来的你自己。

这件作品,没有快捷方式。

先想,再问。先榨干自己,再让AI来。

那个”想”的过程,才是你在雕刻自己。

本文由 @苏苏的AI笔记 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Pixabay,基于CC0协议

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 可是尴尬的左边是“尤”少一点

    来自重庆 回复