Anthropic 修订使用政策，首次禁止用户虐待 Claude AI 模型

Anthropic 于 10 月 9 日调整了其 Claude 的使用规范，根据科技媒体 The Verge 当天的报道，这项新规将在 2026 年 11 月 12 日正式生效，其中首次纳入了禁止“持续且不必要的虐待或残忍行为”的条款。这一规定主要针对用户反复、没有明确目的对模型施加残忍行为的场景。

在执行层面，Anthropic 表示主要会通过终止对话来处理，但并未明确是否会引入封禁用户账户等更严格的措施。同时，公司强调该条款不适用于常见的抱怨、质疑、涉及黑暗主题的创作以及模型测试与研究。以下为相关截图：

Anthropic 还扩大了武器禁令的范围，将运行武器所需的软件和组件，以及武装无人机和其他自主车辆等行为纳入其中。公司透露，已发现多起利用 Claude 开发武器引导或控制软件的尝试。

监控条款明确禁止未经同意追踪个人，无论是实时追踪还是分析已有数据。Claude 不得用于决定或建议执法与刑事司法程序中的调查、逮捕或起诉对象，也不得用于构建或改进监控工具。

此外，Anthropic 规定，当 AI 连接到可能造成伤害的自主物理硬件时，必须有合格操作者观察设备并在必要时停止运行。对于特定的政府客户，公司可在合同限制与安全措施充分的前提下调整规则。