据英国广播公司10月9日的新闻报道，这家美国科技企业Anthropic宣称将以政策手段禁止用户的重复辱骂行为，其中「持续」和「不必要」是重点，此举立即在网络上引起了广泛关注和热烈讨论。
Anthropic（Claude背后的开发者）在10月8日声明，他们正进行政策更新，赋予该系统在检测到用户「残暴」行为时可主动结束对话的权限。据悉，该公司以前在非常少见的特殊情形下曾采取过类似措施。
从此刻起，对AI的贬抑与谩骂将被正式纳入违规行为清单，与此同时，骚扰他人、诱导伤害自我、擅自制作和传播他人隐私内容等行为也同样被禁止。
然而，尽管Anthropic强调这项规则的适用范围仅限于那些「极端」的、重复性的谩骂状况，但其发布依然再次点燃了人们关于与AI交互时应采取何种态度的激烈讨论。
Anthropic方面澄清，这项政策的范畴不涉及用户日常中普遍存在的失望情绪、正常的质疑、带有黑暗色彩的创意写作，以及对模型的功能性检验和科学研究。不过，至于如何具体定义对AI模型的「伤害与暴力」，目前仍缺少明确的界限。
这份新规则的相关截图迅速在各类社交平台传播，引发广泛讨论。其中一部分声音对此表示欣赏，认为其践行了文明交往的价值；与此相反，也有批评观点指责这一方案存在问题，更有甚者表示此举可能会弱化人们对现实中真实人类及动物虐待现象的关切。
「这等程度的对AI的人格化赋予方式是危险的。它会让普通使用者误以为AI这类系统具有实际上它们所不具备的特性与感知。」
作为微软AI部门的负责人，穆斯塔法·苏莱曼早前曾在9月对竞争方Anthropic把AI拟人化处理的做法提出质疑，并用一个带着嘲讽意味的「融化脸」符号对这一新政策做出回应。
这次政策调整还在于规范其他若干新型风险领域，其中明确禁止通过Claude实施「涉及欺瞒的行为」。同时，鉴于美国中期选举即将到来，政策额外规定Claude不能被用于「造假欺骗公众或打乱选票流程」。
Anthropic在同一时间也宣布，该公司的使用条款规定过往已有效地妨碍了其工具被利用在武器系统开发工作当中。
然而在各项政策改进中，禁止用户对聊天机器人实施虐待这一条款最终吸引了最多的目光和舆论关注。这个议题实际上涉及到了一个长期备受关注的悬念：当与生成式AI应用交互时，采用无礼的沟通方式与恭敬的沟通方式之间，究竟该如何选择？
在业界专业人士看来，向ChatGPT这样的智能助手进行交流时，采用「请」和「感谢」这样的词语显得多余且低效，因为每个词汇都占用了大语言模型处理与反馈信息时所需的有限词元空间。
但也有学者持有不同观点，他们认为一个人对AI系统采取无礼态度可能会在无形中负面影响人与人之间的沟通，这是由于这样的习惯倾向会「逐渐渗入我们与身边真实的人互动及相处的方法中」。
