硅谷的矛盾困境：自我警告与无法自拔的竞速
关于人工智能的种种预警频繁见诸媒体，其震撼程度似乎有意被放大，目的不外乎促使公众和决策层迅速行动。
Anthropc的首席执行官达里奥·阿莫迪近日在其网站上撰文，主张刻意降低人工智能的发展节奏。他的观点是，这项技术的能力增长正在加速，极有可能在将来某个时刻突破人类的认知范畴和管控能力。
若不加以制约，此技术将迈向人类无法理解、无法驾驭的境地。基于此判断，阿莫迪主张推进这一领域必须采取极度审慎的态度。
更为激进的论调则出自Anthropic一位离职工程师之口，其警告力度更为严重——AI有可能最终引致人类灭亡。
此人名叫Jacob Coxon，其职业生涯中先后供职于OpenAI和Anthropic两家机构。他在网络社交平台上的言论如下：
「从事AI开发工作的人群中，确实存在这样的认知：该技术可能在本个十年落幕时将人类推向灭顶之灾。」
然而，当CNN主持人Anderson Cooper进一步追问具体毁灭机制时，Coxon坦诚地承认，真正的答案仍是未知数。
推测之一认为，AI能力将不断演进，甚至掌握自我升级之法，逐渐获得蒙蔽人类、绕过人类决策的本领，进而导致某种危机。
这样的灾难可能采取多种形态：渗透核武库、散播生物病原体、瘫痪全球基础设施、或导致大规模失业与社会崩坏。
具体会演变为哪一种，目前无人能言之凿凿。
稍显令人宽慰的一点是，虽然美国防务部门已广泛部署人工智能，但国防部长Pete Hegseth曾公开保证：「致命决策权仍掌握在人类手中。」
遗憾的是，当前美国法律框架对AI在「杀伤决策链」中的参与深度并未设定清晰边界。
Coxon的言论旋即被多家非营利机构及国会议员援引，他们的逻辑是：既然AI业界自己都在示警风险，那么政府部门理应出手制定发展框架与规范束缚。
有趣的是，Anthropic、OpenAI这类企业自身也在频繁呼吁政府介入监管，期望通过立法框架来舒缓日益激烈的商业竞争压力。
科技记者Jacob Ward对当下现象做出了诗意的批评：一小撮掌握巨大力量的科技企业，仿佛联手冲向了自己都认为可能是深渊的地方，却以「身不由己」来自我开脱。
Ward进一步指出，尽管这些公司将来或许从AI浪潮中获利丰厚，但这丝毫不减弱我们对其风险提示的重视必要性。
其观点可以概括为，企业向社会传达的讯息不外乎是：
「我们正在打造某个引人瞩目的创新，但它可能的后果既包括生计丧失，也包括生命危险。」
基于上述分析，Ward主张人类社会必须严肃对待这些来自业界的警示。
力主政府干预的阵营中，美国参议员伯尼·桑德斯是其中的代表人物。
在桑德斯看来，有关科技巨头丧失对人工智能管制力的新闻频频出现，其潜在风险程度不容小觑。
他与众议员Greg Casar联合提出了《禁止人工超级智能法案》，该提案试图永久性禁止「超级智能AI」的研发与部署，同时在国家级监管体系尚未完善之际，对特定高端AI项目实施开发暂停。提案同时要求美国政府推动跨国条约，防止全球范围内超级智能的诞生。
桑德斯的立场是，倘若业界自身都已示警技术可能超出掌控，社会仍然放任企业持续强化系统性能，这无异于一种「道德缺失」。
值得注意的是，在这些警告之外，AI业界也存在截然相反的声音。
持怀疑态度的人士提出，「AI灾难论」存在被刻意放大的嫌疑，其真实目的可能同时服务于商业目标和监管设定：夸大AI的能力可以抬高公司估值，而严苛的监管框架则能构筑进入壁垒，挤压潜在竞争者的生存空间。
于是，这场论辩的深层结构愈发纠缠不清。
一方面，AI企业在发声警告技术发展可能过于迅速，甚至蕴含灾难隐患。
另一方面，批评者质问这些警告是否系出于真诚的社会关怀，还是暗含着维护自身商业利益与行业垄断地位的算盘。
至今为止，尚无任何证据能够证实人工智能必然引致人类灭绝。
然而，AI业界、学术界与政界人士正日益认真地讨论着一个曾经纯属科幻想象的问题：
若AI有失控可能，人类应在何时时刻踏下制动踏板？
