新教宗推出首份通谕:对硅谷的AI野心发出警告

教宗良十四世挑战硅谷,警告人工智能风险

从技术革命诞生之初,硅谷就对人类未来抱持着一种救世主般的抱负。这种信念的源头可以追溯到那个计算机占据整个房间的年代。

在业内流传已久的一则逸事中,一位程序员向计算机提出了一个终极问题:”上帝是否存在?”机器的回答既简洁又大胆:”现在存在了。”曾对乔布斯思想产生深远影响的《全球目录》更是大胆宣示:”我们与神一样,既然如此,我们应该追求这样的卓越。”

科技领导人物向人工智能领域投入数千亿美元,这一举动本质上是在宣布:那些旧日的梦想已然成真,而下一步就是超越自我。

不过恰在这一新兴人工智能信仰体系试图确立自己对人类前景的支配权之时,一个不同的声音却从地球另一个角落传来。

这声音对科技产业的劝告是:放慢步伐。为人类谋福祉。机械不能充当神灵。

周一,首位美国籍教宗良十四世隆重推出了他的首份宗教文件——《崇高人性》(Magnifica Humanitas)。这份四万多字的声明言辞温和、未曾点名,但其核心实质乃是对硅谷”唯我能指引未来”这一自我标榜的沉重质疑。

“人工智能作为工具具有其价值,”教宗承认,但这项革新”经常会扩大那些已握有资本、知识和数据优势的人的控制力。”他指出,缺乏足够的制衡机制与开放性的话,”那些主导人工智能的少数人将把自己的价值观嵌入其中,而这种价值观会成为这些工具的隐形驱动力。”

他提出了一个更深层的担忧:”若只有少数人来制定伦理标准,即便人工智能本身更具道德,也是远远不够的。”

预计这份通谕将成为这位70岁教宗任期的重要遗产,就如同19世纪末教宗良十三世的《新事》通谕在推进工人权益方面的地位一样。在硅谷尚未苏醒之际发布的《崇高人性》代表了对人工智能浪潮进行规范和限制的又一次努力。

上周,特朗普总统差点签署一项法案,该法案将授权联邦部门在人工智能系统发布前评估其风险——但他最终改变了主意。同样在那一天,加州州长纽森签署了一份研究报告任务,以评估人工智能对就业生态的冲击。这种举措反映出各界对迫在眉睫的经济变革的真实认识。拥抱人工智能野心的埃隆·马斯克曾试图通过法律手段打击OpenAI,但本月的诉讼因程序理由被驳回。

《崇高人性》对马斯克等科技领袖构成了真正的挑战。他们积累的权势与影响已足以与中世纪的教宗权势相提并论。当年,依诺增爵三世曾表示教廷如日,世俗统治者如月——后者若无前者之光,便无以被人所见。

无论褒贬,马斯克、扎克伯格、蒂尔、奥尔特曼及其同伴对现代”君主”(即政治领导人)的影响力确实相当。当今美国的经济增长在很大程度上取决于人工智能产业的扩张。这项技术正以难以预见的速度被部署到学校、办公室和各个行业领域。

古老的信仰体系与新兴的科技教条的碰撞,这本身就是引人入胜的故事题材——足以成为一部紧张刺激的影视作品。

在其半个世纪的发展历程中,硅谷极少遭遇广泛的社会质疑。而像《崇高人性》这样具备权威性和广泛影响力的批评声音更是罕见。教宗是14亿信众的精神导师,若其对人工智能的警告持续在教徒中被强调和推行,这可能会对科技企业的全球扩张计划造成实际的制约。

“在当代的世俗化西方社会中,教宗的实际影响力究竟有多大?”加州大学伯克利分校研究技术发展中宗教角色的博士候选人蒂莫西·安提出了这个核心问题。”我们即将找到答案。我怀疑帕洛阿尔托的科技精英们可能压根儿不会去读这份文件。”

曾经接受过神学培养的蒂莫西·安指出,这份通谕充其量能够”促使人们进行一些伦理反思”。

教宗们的工作向来关注长远的影响,对这份通谕效果的任何严肃评估都需要在若干年之后才能得出。熟悉梵蒂冈和硅谷双方的观察人士表示,不应该预期会出现公开的对立或类似宗教战争的冲突。方济各教宗在十年前已开始邀请科技领袖参加年度的”密涅瓦对话”人工智能论坛。

退一步讲,如果教宗与硅谷对阵,他恐怕会处于劣势。

梵蒂冈选择与自诩为”伦理”人工智能的Anthropic联合创始人克里斯托弗·奥拉一起发布这份通谕,这表明教宗的真实意图并非摧毁人工智能产业,而是希望成为相关讨论中的一个声音。当方济各在2015年发表关于气候问题的尖锐通谕时,石油行业的高管们根本没有被邀请参与发言。

从事宗教与技术创新交叉研究的克鲁尼研究所创始人卢克·布尔吉斯对通谕的实际效果抱持乐观态度。

“这份文件如同一条闪闪发光的导火索,有可能真正改变硅谷的建造方向,”同样有着修士背景的布尔吉斯表示。”它可以为人们提供理解新技术的新语言框架,正如《新事》通谕曾为工人争取权益提供了道德语言一样。”

但这种改变不会是自动的、迅速的,也不会是轻松的。

AMP

“教会在这里的任务还处于初始阶段,”布尔吉斯总结道。”它必须与一个资本和算力都远超其自身的强大对手进行对抗。”

上一篇 2026/05/25 23:39
下一篇 2026/05/26 01:37

相关推荐