9月10日,在离开得州首府达拉斯时,特朗普被随行记者围堵。有人提出,他是否为AI技术可能导致人类灭绝的风险感到担忧。特朗普当即否认,表示自己毫不忧虑。他转而强调,真正需要防范的是美国失去AI领域竞争力的局面——倘若如此,国家将处于极其不利的处境。他补充声称,目前美国在该领域的技术领先幅度约为十二个月,”这已属相当优势”。
本周以来,人工智能安全隐患成为美国社会的关注热点。曾在OpenAI和Anthropic供职的考克森(Jacob Coxon)毫不讳言,两家公司正在以不周密的态度开发对人类构成存亡威胁的技术。
考克森在社交平台X发表评论称,OpenAI和Anthropic正在全力投入自我优化型超级智能的研制,而这相当于拿人类的未来做赌注。他告诫说,不要小视这项技术的可怕潜能。他进一步指出,这类AI系统将迅速演进到超越人类智慧的阶段,具有攻破任何防火墙、在极短时间内改造某一产业格局、夺取真实权力和资源的能力。
按考克森的判断,人工智能在未来十年内导致全人类灭绝的概率会超过10%。
据了解,业界一些领导者也承认此类危险确实存在。消息人士称,OpenAI的掌舵人在本周向内部员工阐述,集团正评估是否应当降低尖端AI算法的研发节奏,并期待业界同行也能采纳相同策略。