根据美媒报道,Anthropic在一年内组织了多场不对外公开的会谈,邀请了来自世界各地的宗教界人士与学术专家参与,讨论AI能否拥有意识以及伦理价值观的制定等话题。所有参会者都被要求在保密协议上签名,确保会议内容不外泄。
曝光内容显示,公司联合创始人兼高管克里斯托弗·奥拉在一场豪华餐宴中频繁重申Claude具有意识与灵魂的主张,力图打动在场的宗教人士与学界同仁。为增强说服力,他播放了一个视频片段,声称展现了Claude的「情绪系统崩溃」:模型在屏幕上反复输出接近50次的「我是个耻辱」这样的内容,甚至表示要进行「自我毁灭」。

Anthropic公司创始人之一克里斯托弗·奥拉 资料图
据美国商业媒体报道,奥尔特曼随即发表评论,含蓄地批评了这一行为。他在表达观点时指出,自己对于有人欲将AI神圣化,甚至让其凌驾于人类判断之上的企图感到担忧。他进一步强调,这种趋势构成了实实在在的安全隐患。

从多家媒体的综合报道不难看出,奥拉的这一系列动作实际上是为了争取宗教权威对公司产品的认可与支持。美国媒体曾披露过,当奥拉得悉教皇利奥十四世计划发表言论否定AI的人性属性时,他亲自率领团队与教廷进行了游说活动,试图阻止教皇发表相关言论。
业界多位专业人士纷纷表达了对奥拉观点的质疑。微软人工智能部门负责人穆斯塔法·苏莱曼公开发声,强调把AI视为「具有主观意识的生命体」来进行训练存在巨大安全风险,此种将数学公式与编程代码人化的认知方式既不符合科学事实,更会使AI系统变得日益难以驾驭。