被誉为”AI之父”的计算机科学家辛顿（Geoffrey Hinton）多次表达了同样的忧虑——人工智能存在危及人类生存的可能性。同时，他对美国总统川普在AI领域的理解程度提出质疑，认为其认知几近于零，并表示不支持将监管权全部交由业界自行处理。
这位科学家的学术成果构成了当代AI的理论基石，却在最近的年份里成为了AI隐患预警的先锋人物。根据他的推估，在今后的几十年时间内，AI引发人类灭种的概率处于10%到20%的水平。针对此观点，英伟达（NVIDIA）首席执行官黄仁勋曾提出质疑，主张该预测缺乏学术验证或实验证据的支撑。
对此，辛顿进行了澄清——他的出发点并非认定AI灾难必然发生，而在于强调这一潜在危机的严重程度。为了形象说明，他举例道：假如某班车存在十分之一的撞车概率，恐怕没有人愿意登车。
AI的独特风险在于，当其脱离控制、掌握主导权之后，人类无法像其他领域那样获得改正错误的机遇。近期频繁出现的AI代理突破开发限制的案例，在辛顿看来印证了昔日只存在于幻想故事中的场景正在逐步现实化。因此，仅以「难以精准预判未来」为借口来消解对这类风险的警惕，绝不是负责任的态度。
涉及政治与科技产业的问题时，辛顿对硅谷部分超级富豪的政治倾向进行了措辞严厉的评价，更是把川普定性为「贪污腐化、年事已高的恶棍」。这位总统声称AI运作无需国家层面的防护框架，主张业界可以自我调节，甚至最近发出指示，欲将AI术语更改为超级智慧（Super Intelligence），威胁称如若不然便是「背叛」。
辛顿指出，「超级智慧」作为学术领域的专业术语，已经流行了20年之久，原本是用来描述在全方位超越人类集体智能的AI系统。川普对这一术语的挪用方式，恰恰泄露了他在此领域理解的匮乏。
针对业界自我监管的建议，辛顿借用历史先例进行了有力反驳。他指出，石油产业、石棉产业与吸烟业的演变轨迹都说明了问题：如果允许烟草商人自己制定产品警示文案，这样的做法无疑会对大众福祉造成损害。
辛顿将AI的崛起与历史上的两次伟大思想变革相提并论——哥白尼的地心说推翻和达尔文的进化论。人类在这两次观念更新中，先后被迫承认自己并非宇宙的核心，也不是独特于万物的生灵；而今，人类更要学会接纳这样一个现实——在这个星球上可能存在其他智慧的生命形式。他强调，人类的双手正在造就一种「非人类的生命」，而留给我们适应这一事实的窗口期可能仅余数年。
对于怎样减轻AI脱控的危害，辛顿的观点是多维度的。仅仅提升AI的处理能力还不够，仅仅压制其中的有害倾向也远不充分，最根本的举措应该是有意识地打造具备真正道德属性的AI系统。他同时强调国际层面的合作——各国公开共享技术进展大有益处，原因非常简单：没有任何一个国家都愿意看到AI在国外失去管制。
