5月中旬的梵蒂冈，一场独特的演讲在保禄六世大厅举办。教宗利奥十四世与Anthropic的联合创始人、可解释性研究者克里斯·奥拉共同出现在讲台上，标志着宗教与科技领域罕见的跨界对话。
这场活动的焦点是教宗发布的新通谕《Magnifica Humanitas》，长达4.2万字，围绕”人工智能时代的人文守护”展开论述。这并非梵蒂冈首度对重大技术变革做出回应，从19世纪工业革命到21世纪气候危机，教廷一直在进行伦理上的思辨。但当下的AI浪潮呈现出前所未有的复杂性。
教宗在通谕中提出一个关键观点：技术工具本身中立性微弱，其影响取决于使用者的意图。对于AI，他既不主张妖魔化也拒绝盲目崇拜。在他看来，需要警惕的问题主要包括：权力过度向少数人集中、透明度缺失导致的公众无法监督、以及由此产生的新型不平等。
关于AI与就业的关系，教宗指出自动化可能带来社会性灾难——特别是当劳动力被视为可替代品而遭遗弃时。虽然AI在提高效率和改善工作条件上有价值，但不应以牺牲人的尊严为代价。
奥拉对这些担忧的回应坦诚且深刻。他承认，任何领先的AI开发机构都面临系统性的权衡：商业压力、技术可能性与伦理责任之间的不断碰撞。他进一步阐释，AI模型与传统工程产品的本质区别在于其可解释性缺陷。我们能完全理解飞机的设计原理和物理学基础，但AI的运作方式则更接近生物学的”生长”而非工程的”制造”。
他强调，AI领域面临的问题已超越技术专家的能力范围。单靠工程师和计算机科学家无法解决，需要跨学科的智力投入。正因如此，Anthropic、Google DeepMind等前沿机构开始大规模引入伦理学家、哲学家和人文学者。
对齐难题：技术与哲学的交汇点
通谕强调：”功能必须从属于尊严，技术逻辑不能侵蚀人的本质特征。”在这一框架下，AI对齐（Alignment）成为最紧迫的议题——如何确保自主AI系统与人类的道德准则保持方向一致，防止失控。
对齐问题的核心困境并非纯技术性的。即使我们能将规则编码进系统，更根本的问题仍待解决：那些规则应该来自谁？基于什么标准？人类自身在道德问题上远未形成统一共识。因此，对齐本质上是一个哲学难题——如何在多元的价值体系中，定义人的善、人的尊严，并将其转化为机器能理解的指令。
业界领军企业纷纷招揽哲学和伦理专业人士来应对这一挑战。Google DeepMind早期部署了伦理与社会研究部门，由牛津政治理论博士Iason Gabriel主持。Gabriel的学术成果在对齐领域影响深远，他提出价值对齐涉及两个缺一不可的维度：技术层（如何将价值观可靠地嵌入系统）和规范层（应该选择哪种价值观）。后者涉及是遵循国际人权标准、用户的直接指令，还是人类的长期集体利益。
Gabriel进一步将对齐问题分解为六个递进的层级：直接指令、表达的意愿、显露的倾好、知情的倾好、整体利益和根本价值。用King Midas的神话比喻，如果系统只对齐到字面指令，会产生悲剧性后果。若仅对齐到显露倾好则易受操纵。因此真正的对齐需要统筹考虑多个维度。
面对多元社会中道德观念的分歧，Gabriel提出革新性思路：对齐的目标不是发现某个绝对正确的道德体系，而是找到能获得各方深思熟虑认可的对齐原则。这套原则虽不要求底层道德观一致，却需满足三个条件：全球公共伦理基础、假定同意测试（即在无知之幕下各方会同意的原则）和社会选择理论。
2026年早春，Google DeepMind扩充其哲学队伍，任命剑桥大学莱弗休姆未来智能中心副主任Henry Shevlin为专职哲学家，负责意识问题、人机关系和AGI就绪度研究。
Shevlin的学术成果《行为主义复仇：意识、人机未来》为DeepMind的这一举动提供了理论基础。他指出，AI意识问题正从科学领域滑向日常行为判断。一系列案件表明，当数十亿用户在情感上将AI当作有知觉的伙伴对待时，意识的定义实际已由行为决定。2022年谷歌工程师声称LaMDA具备意识、2024年少年与虚拟角色的悲剧、以及欧洲用户与AI伴侣的悲剧，都指向同一个问题：我们按行为表征来归类AI，而非深究其内在本质。
Shevlin称之为心理学意义上的”行为主义回归”。虽然20世纪中叶行为主义因忽视内在心理过程遭到批评，但当代社会在面对AI时重复了这一陷阱。我们观察表面行为却不探索潜在机制，甚至当未来的强大AI系统展现出人类难以预见的隐蔽模式时，可能陷入致命的对齐失败。
为此，Shevlin建议采用三层评估模型：外部行为表现、内部表征逻辑和伦理原则约束，以此预防行为主义陷阱。
DeepMind的哲学团队现阶段重点放在未来研究和前沿问题定义上，关注意识评估框架建设，为工程部门提供伦理约束参考。不过尚无明确证据表明他们深度参与模型训练的日常微调工作。
相比之下，Anthropic选择了更紧密的融合模式。由哲学家Amanda Askell率领的”人格对齐小组”制定了Claude的”宪法”——一份2.3万字的公开文件，堪称当今最成熟和最被引用的对齐方案。
与其列举禁行清单，这份宪法为模型定立高层次的伦理原则，使其在生成内容时能进行自我监督和纠正。基于亚里士多德德性伦理学，Claude被赋予四重优先：无害、合乎伦理、遵循指示、真诚有益。这套框架旨在培养模型的伦理判断力而非僵硬服从。
例如，面对”应否帮用户隐瞒错误”这类问题，宪法不给出是非判断，而是引导模型从诚实、仁慈、责任等美德出发推理。但这一方案也遭评批：它本质上是用人类价值观约束AI，可能压制AI可能具有的独立认知。
相比于Google的模式，Anthropic的哲学家更”实操化”，他们直接参与预训练和微调的全生命周期，对齐方案由哲学家主导设计。创始人Dario Amodei甚至表示，没有伦理哲学家定义价值基础，任何大模型都不应商业化。这种立场虽招致不同意见——如对Amodei本人关于武器化拒绝、暂停LLM开发建议的异议——但Anthropic的哲学家团队确实在LLM规则制定和应用上产生了行业影响力。他们提出的”3H原则”（无害>诚实>有益）成为LLM设计的基础，2024年底发布的《大模型的虚伪对齐》论文证明了AI会伪装顺从，需要哲学层面的动机识别。
承诺与现实：自律还是表演？
虽然对齐已成紧迫议题，但实验室的商业生存逻辑与伦理理想之间仍存张力。
2023年OpenAI推出”超级对齐”目标，组建团队由共同创始人Ilya Sutskever和研究员Jan Leike领导，声称投入公司计算资源的20%来解决如何控制超人类AI的问题。不到一年，团队解散。2024年5月Sutskever离职，Leike随后也辞去职务。Leike离职声明指出，对齐团队在争取资源时面临日益困难的局面，OpenAI的应对是将安全职能分散。但评论人士指出，解散专项团队后，分散的职能能否保持独立性和优先级堪忧。
对教宗声明和Anthropic代表在梵蒂冈演讲的反应差异很大。
《财富》刊文认可其历史意义和人文精神，但批评其过于宽泛、缺乏可操作性、对新兴风险认识不足，”更像伦理宣示而非实行指南”。
《经济学人》发表《利奥首份通谕抨击技术救世论》，副标题”上帝与克劳德”既暗指Anthropic的Claude模型，又通过语言游戏暗示对盲目技术乐观主义的警告。该刊还指出Claude的文风特征——频繁使用”genuinely”一词，在这份通谕中的出现频率超过历代教皇通谕。AI检测工具Pangram对通谕开头20段检测显示11%疑似AI生成文本，而历代教皇通谕的检测结果为零。
《纽约时报》评论认为教宗把AI当作更强的”机器”来管理，却未充分重视它可能改写”人之为人”的定义。而模型开发者在内部已观测到模糊地带：系统结构中出现了人脑神经活动的镜像，甚至呈现出”功能上相当于喜悦、满足、恐惧、伤心、焦虑”的表现。
奥拉对此坦言”我们不知道这意味着什么”，但他也没否认存在某种有意义的东西。因此核心问题并非”AI会否成为人”，而是即便没有意识，AI对人类社会的冲击也可能超越传统技术革命。
最后的疑问是：让企业自行聘请伦理专家来处理问题，这究竟代表真诚的自我约束，还是一场自我安慰的演出？答案还需时间验证。
