根据14日的报道,这位微软联合创始人在前日的电视访谈中做出了该表述,指出人工智能所带来的风险程度,已经超越了汽车、飞机及医药品等领域,堪称人类技术史上的最大威胁。
盖茨强调,机器反抗人类的场景目前尚非迫切之忧,这类极端情形距离落地仍需时日。反观眼前,非法分子借助人工智能技术实施敲诈勒索、股市操纵等传统但手段精进的违法勾当,才是最现实的危害。
随着犯罪分子逐渐掌握突破最新人工智能系统防御机制的方法,盖茨预言未来十二个月中,尤其是网络空间安全这一领域,将面临频繁的、规模化的负面事件频现。
值得注意的是,他不仅言及网络安全问题,对生物防护方面亦表露忧虑。早前在八月,盖茨就曾指出,生物恐怖活动的风险程度要高出自然疫情大约五十倍。
他认为,人工智能在医疗保健等产业中有着深远的应用前景,然而鉴于其所具备的、超乎寻常的破坏性创新能力,社会需要在充分理解其深层含义的基础之上,认清这股技术浪潮的分量。
盖茨之前用了一个颇具想象力的比喻,称人工智能好比「实验室内的异星思维」,并指出它很可能在将来视人类为低等生物对待。尽管如此,他也坦诚承认,现在关于「人工智能制造近在咫尺的生存威胁」之类的表述,可能存在一定程度的夸大成分。
他特别强调指出,人工智能所潜在的各类危害程度,仍然超越了那些已被纳入严密监管体系的传统产业,而全世界迄今尚未形成一个切实可行、能够有效规范这一领域的治理体系。
谈及能否建立如民航或制药等行业那样的监管部门,盖茨认为,「在接下来的十二个月期间,产业治理势必要走出单纯依赖行业自律的时代」,他表示当前在这方面的资金配置和人力投放「明显严重不足」。
多方预警
根据13日的信息披露,英国情报机构的负责人麦卡勒姆在其年度安全威胁白皮书中指出,人工智能技术正在使网络对抗的强度和复杂度不断升级。
他认为,最需要警觉的不当用途,是人工智能可能重塑生物军事威胁的既有风险生态,甚至催生全新的生化兵器隐患。
麦卡勒姆表示,虽然这类风险目前还未演变成现实威胁,但倘若防护机制被突破,那些原本技术储备有限的恐怖组织与个人也将获得显著提升,从而接触到他们长期以来难以获取的化学、生物及放射性杀伤性武器知识。
为了应对这些新兴威胁,该情报机构于13日宣布成立专门的人工智能威胁评估室,以持续监测人工智能技术所带来的潜在机遇与各类风险。
类似的担忧在人工智能产业内部同样蔓延。根据报导,包括OpenAI、Anthropic在内的多家智能研究机构的领导层最近进行了「灾变爆发首日」的应急预案推演,他们指出最具可能性的突发事件是针对金融系统、网络基础设施或能源供应的大规模网络入侵。
相关人士估计,这种灾难性事件可能会在未来半年至一年的窗口期内降临。
虽然各方持续拉响警报,但监管措施的实际推行目前却陷入政策意见的分歧之中。
根据媒体透露,与盖茨等倡导者所主张的法律强制监管路线相反,特朗普政府的重点放在维护美国在全球人工智能竞争格局中的优势,其监管策略依然是通过与科技龙头企业签订自愿协议的方式展开。