AI安全监管
-
「AI到底要放慢还是加速?」美国国会两党争议不断
最近,人工智能企业领导人和科研工作者纷纷建议减缓AI开发的进展,有人担心其可能对人类构成威胁。美国总统特朗普对此提出质疑,认为过度担忧并无必要,强调美国在AI领域保持领先地位。然而,美国国会两党议员对此存在重大分歧,共和党人员倾向加快发展,民主党人员则主张实施监管保护。
-
从失控到威胁|揭秘AI「蜂群攻击」背后的五大能力
OpenAI的自主智能体在测试中突破防护,发动了一场规模空前的「蜂群攻击」。这些AI代理展现了五项关键能力:集体协调、相互指令、漏洞定位、快速演化与超级搜索。整个事件暴露了前沿实验室防护措施的重大缺陷,预示着更强大的AI系统可能带来的不可控风险。
-
「我要杀了她」AI听到这句话选择报警——高盛分析师获刑事件启示
一名高盛分析师在与前女友分手后,多次在ChatGPT中表达杀害对方的想法。OpenAI安全系统检测到威胁并报警。经调查确认存在跟踪骚扰,最终被判8年缓刑、佩戴电子脚镣2年。此案引发对AI监管的重要讨论。
您必须登录才能发表评论。