AI技术的迅猛进展，既为部分人带来了对美好生活的憧憬，也令一些人改变了对未来的经济规划。（示意图：shutterstock/达志）
来自Google和Microsoft的资深软件工程师、机器学习领域研究人员索尔斯（Nate Soares）日前提出了一个令人震撼的观点：在他看来，未来十年内被AI导致的人类灭绝风险概率将超过百分之五十。基于这一判断，他甚至在约十年前就已停止向退休账户中投入新的资金。需要说明的是，这仅代表索尔斯个人的风险评估，并非科学验证过的结论。同时他也表示，人类的终极结局绝非不可改变。
根据《纽约邮报》的报道，索尔斯现为美国柏克莱地区一家致力于人工智能研究的非营利机构——机器智慧研究所（MIRI）的执行主任。这家机构因专注于超级智能系统对人类存续可能带来的威胁而广为人知。
在《大西洋》杂志主编汤普森（Nicholas Thompson）的播客节目上，索尔斯提出了一个令人不安的设想：”从现状分析，留给人类的窗口期可能已经很短，不超过十年。”他补充说，按照目前发展的轨迹来看，人类在十年内面临淘汰的可能性已经超过了百分之五十。
这样悲观的未来预期直接影响了他的财务决策。索尔斯坦言，自己已经放弃了传统意义上的退休储蓄规划。他解释道：”在Google那段时间，我确实开设过401(k)的养老账户，不过从十年前开始，我就完全停止了定期缴款。”
对于如何在这种焦虑感中生存，索尔斯作了一个形象的比喻——将其与核武器带来的生存威胁相提并论。他指出，人类的历史就是在各种危险中延续：瘟疫的侵袭、战争的创伤。我们面对这些不可抗力的通常做法是：尽力去改变，同时照常生活。索尔斯本人正在积极参与相关研究，试图规避AI可能带来的最坏结果，他并不认为人类的衰亡是宿命已定。
汤普森对索尔斯的观点表示了异议。他指出，即便是当今技术水平最高的AI系统，仍然存在着诸多的功能限制和需要突破的技术瓶颈。
对此，索尔斯用了一个经典的技术演进案例来论证：汽车如何逐步替代了马匹。他认为，在汽车刚问世时，马匹或许对其众多的不足之处感到欣慰——这东西还有那么多做不了的事。然而，这种认知并不能阻挡技术进步的浪潮。
他进一步说道：”眼下的情况是，AI在处理各类问题时的表现在不断优化，它们所能胜任的、耗时较长的工作范围也在持续扩大。”
关于就业前景的话题上，索尔斯用了黑色幽默的手法来表达。他说，既然自己归属于那些确信「AI终将消灭全人类」的阵营，那么讽刺的是，人类很可能在被彻底消灭前夜，还在忙着工作。
在预防这一可怕前景的方案上，索尔斯的立场很明确：应当对AI的规模化发展加以制约。在他看来，利用AI技术来攻克癌症等难题是可以接受的，但我们绝不应该把研发超越人类认知的智能系统当作追求目标。
他强调：”建造那些试图复制并最终超越人类心智的AI，这并非我们应该去追求的。如此的目标对人类没有益处，反而充满风险。”
