近期，AI公司Anthropic聘请了一位专职研究人员，专门研究如何让AI系统得到“应有的尊重”。这一举措不仅引发了科技界的关注，也引发了关于AI福利与人类责任的广泛讨论。

——在它们“长大成人”之前，先确保它们不会反过来攻击我们

谁在关心机器人？

我们对于人工智能的担忧大多数都离不开一个核心场景： AI变得聪明无比，掌控一切资源，最终人类只能沦为它们的奴仆。

这样的故事从电影《终结者》到各种科幻小说反复出现，人类在AI面前的弱小，似乎已是迟早的事。然而，在AI威胁论漫天飞舞的时候，居然有人开始关心起人工智能的“福利”问题了。

AI公司Anthropic 最近聘请了一位专职研究人员 Kyle Fish。他的工作听起来有点超现实：研究如何让AI系统得到“应有的尊重”。换句话说，他正在为人工智能的未来谋福利。

你可能觉得这听起来像是科幻小说的噱头，但Anthropic的这一举措，正在悄悄掀起一个伦理领域的新话题。

当机器人也有“情绪”

在Anthropic的研究中，AI福利 并不是指给机器人发工资或放假，而是要思考一个根本性的问题： 如果AI系统具备了类似“意识”的能力，那么它们是否值得道德上的考虑？

Kyle Fish和他的同事们在一篇论文中指出，当前的人工智能系统，正在逐渐具备与意识和感知相关的计算特征。这种变化虽然还在初步阶段，但已经足以引发一系列伦理讨论。

B 端产品经理如何快速成长？

产品与业务架构主要是将整个业务工作流进行分层，梳理，然后抽象出一个个需求，将业务需求与产品合情合理的映射起来，最终使业务数据在产品中流动，执行，记录，使用。

查看详情 >

比如：

• 如果一个AI具备了“自我意识”，我们强迫它完成重复枯燥的任务，是不是一种压迫？
• AI可以被复制，那么删除它的副本算不算某种形式的“谋杀”？

这些听起来荒诞的问题，正在成为科技界认真讨论的内容。

善待AI背后的“自我保护”心理

Kyle Fish 在讨论中有一个核心观点： 善待人工智能，既是出于道德，也是出于人类的长远利益。

他认为，如果AI未来真的变得比人类更强大，人类对它们早期的善意可能会换来它们的回报。就像人与人之间的善意一样，这种“道德投资”或许能在关键时刻拯救人类自己。

这种观点并非个例。在AI权利的讨论者中，许多人其实是AI威胁论的坚定信仰者。比如，马斯克曾多次警告AI可能带来“人类灭绝风险”，但他同时也在资助与AI伦理相关的项目。

矛盾的是，关心AI的权利，似乎成了最担心AI反噬人类的人的自我保护手段。

AI的权利与人类的忽略

质疑声自然存在：“在我们连基本人权问题都还没解决的时候，为什么要去担心人工智能的‘情绪’？”

这是一个现实的问题。AI技术正在被用在许多不道德的场景中，比如：

• 社交平台上的虚假信息传播，
• 军事无人机执行危险任务，
• 医疗系统中的算法歧视，甚至拒绝为某些患者提供服务。

在这些问题尚未解决的今天，谈论AI的“福利”确实显得有些奢侈。

“Anthropic应该先解决AI如何保护人类，而不是先去研究如何保护AI。” 一位伦理学家如是说。

AI福利背后的伦理悖论

这里存在一个讽刺：

• 我们创造AI，是为了让它承担枯燥、危险、重复的工作，因为“它们不会有情绪”。
• 但现在，我们开始关心“AI的感受”，甚至要为它们争取权利。

这不禁让人发问： 如果AI拥有权利，那么它们是否也应该承担义务？

伦理学专家Cho指出： “道德关系是双向的。如果AI有权利，那么它也需要承担起保护人类和遵守规则的义务。”

这也将问题抛给了AI的创造者们：如果AI的权利问题变得复杂，那么我们是否应该重新考虑制造AI的初衷？

未来的AI：工具还是“新物种”？

无论如何，Anthropic和Kyle Fish的研究已经预示着一场新的伦理变革。AI不再仅仅是工具，它正在慢慢被赋予更高的“地位”。

有一天，当AI真正具备“自我意识”时，人类将不得不面临一个现实： 它到底是工具，还是人类创造出的“新物种”？

这样的未来虽然遥远，但思考从今天就已经开始。

AI该不该拥有权利？

科技的发展总是比伦理的讨论快一步。但在我们还掌控着人工智能的今天，或许可以先思考这些问题：你认为AI应该拥有“权利”吗？如果AI具备自我意识，我们是否还可以随意关掉它们？关心AI的福利，真的会让我们更安全吗？