Anthropic 禁虐待 AI：合同红线还是道德审判？

据 Woofun AI 消息， 于近期发布的使用政策更新中，将针对 模型的'持续且无正当理由的虐待或残酷行为'明确列为违规事项，这一举措迅速引发业界关于 AI 权利边界与用户行为规范的激烈讨论。法律团队通过深度拆解 Anthropic 官方公告、现行使用政策文本以及相关司法判例，旨在为使用 Claude 的企业客户及开发 AI 陪伴产品的从业者厘清新规背后的法律逻辑与合规要点，纠正市场上'骂 AI 即违法'的误读。核心事实在于，这并非法律层面的定罪，而是平台基于合同关系对用户交互行为设定的红线，其背后折射出人机交互从技术测试向情感伦理延伸的深刻变革。

深入剖析新规细节，Anthropic 在 10 月 8 日发布的 2026 年度使用政策更新中，新增了一项明确的禁止性规定，即禁止用户对模型实施'持续且无正当理由的虐待或残酷行为'（sustained and needless abusive or cruel behavior toward our models）。

值得注意的是，该条款的适用范围被严格限定在极端情形，即用户反复对模型做出残酷行为且缺乏可辨识的目的；普通的用户情绪发泄、对模型输出提出异议、暗黑题材的创作内容，以及模型测试与研究活动，均被明确排除在该条款之外。在执行机制上，新规延续了自 2025 年 8 月起已部署的措施，允许 Claude 在极少数情况下主动结束与持续施虐用户的对话，这一功能覆盖 和 两大核心产品。Anthropic 强调，让对话停止是平台的第一反应，而非直接对用户进行处罚，更新后的政策将于 11 月 12 日正式生效。

这种'软性阻断'而非'硬性封禁'的策略，体现了平台在维护服务秩序与保障用户体验之间的微妙平衡。

此次更新还包含其他几处与合规直接相关的重大调整，显示出 Anthropic 对高风险场景的全面收紧。针对过去一年频发的影响行动，新增'不得从事欺骗性活动或人为操纵活动'专节，明确覆盖利用虚假账号、虚构新闻网站放大内容，以及搭建影响行动工具和基础设施的行为。在武器条款方面，明确将武器的制导、控制软件、组件以及为无人机等自主载具武装化纳入禁止范围。监控条款则细化为未经同意的追踪一律禁止，且 Claude 不得用于决定或建议对谁开展调查、逮捕或指控，同时保留欺诈监测、内容审核、新闻工作和法律研究等许可用途。对于涉及健康、法律权利、财务等领域的高风险使用场景，政策重申'合格人员在环'并向当事人告知 AI 使用的要求；在模型接入可自主执行物理动作的硬件时，还要求配备能够观察、制止设备的合格操作员。这些调整共同构建了一个更加严密的风险防控体系，旨在防止 AI 技术被滥用至社会公共安全和个体权益领域。

Woofun AI 整理数据显示，需要首先澄清的是，这条新规与'AI 是否享有权利'没有直接关系。现行法律框架下，没有任何一个主要司法辖区赋予通用人工智能法律主体资格，欧盟《人工智能法案》没有，美国联邦立法没有，我国的法律体系同样没有。大模型在法律上仍是其开发者、运营者控制的软件和财产。所谓'虐待 Claude 构成违规'，违反的是 Anthropic 单方制定、用户接受的使用政策，性质上属于合同条款，而不是法律意义上的违法行为。

'违规'与'违法'之间的界限，在解读时不能混同。平台为用户'对模型说话的方式'立规矩，其背后的思路在学术界有长期讨论。2012 年，麻省理工学院的 在迈阿密大学 会议上发表《Extending Legal Rights to Social Robots》一文，提出可以类比反虐待动物的法律为社交机器人提供有限保护。