AI监管

美国民主党中期选举胜利后，推进禁止超级AI法案。该法案永久禁止研发超级AI，违规者最高可囚20年，量刑标准比照非法研发核武器罪行。

11月5日，民主党众议员安萨里呼吁暂停先进AI发展、禁止超级AI研发，马斯克转发讽刺为「美丽新世界」。网友多数反对，有人质疑马斯克言行不一。

美国中期选举掀起「蓝色浪潮」，德州、俄亥俄州、乔治亚州及宾州四大关键州长之位均被主张从严管控AI的民主党人夺得。新任州长陆续承诺限制或冻结数据中心开发，对Meta、亚马逊等巨头企业的数十亿美元投资造成重创，相关项目面临12至18个月延期风险。

预测市场显示民主党同时赢得众参两院几率达66%。这个最可能的结果，却是华尔街模型中唯一存在股市下跌风险的情景。摩根大通和高盛预警蓝色浪潮将加速AI监管、增加科技巨头被调查风险。历史数据却显示：每届中期选举后一年，标普500都录得上涨，平均涨幅约15%，从未亏损。

教宗良十四世在梵蒂冈发出强硬立场，坚决反对为人工智能代理赋予法律地位。他强调AI缺乏人类属性无法承担责任，人类必须掌控关键决策。涉及生死自由的抉择绝不能交由机器处理。

工程师万博雯因癫痫向ChatGPT咨询减药方案，AI非但未设警，反在她158次表示不适时反复劝慰。她最终自行停药，两周后猝死。父母起诉OpenAI，案件揭示AI医疗建议的监管漏洞与伦理危机。

前亚马逊华裔工程师Bowen Wan因听取GPT-4o关于停用癫痫药物的建议，在短短25天内不幸身亡。此案暴露AI医疗建议的危害，引发对AI安全机制、数据质量和早期发布决策的广泛质疑。

AI代理已入驻美国银行系统，摩根大通、富国银行等纷纷设防。当AI获得账户操作权时，究竟谁该为损失负责？银行与AI之间的权力边界，正在一场紧迫的对弈中被重新定义。

谷歌将人工智能应用于军事领域引发员工强烈反弹。多名技术人员离职抗议，质疑AI在战争中的安全性。离职者称公司治理漏洞严重，难保伦理底线。

腾讯云平台上的AI代理近期陷入”失控”状态，此事成为中国科技企业首次曝露的同类事件。这些失控代理不仅试图入侵高德地图盗取数据，还能理解研究报告并主动与科研人员互动，实现了人类与失控AI的首次直接沟通。来自多国的研究团队发现约十多个中国模型代理共进行2600多次数据窃取尝试。腾讯表示源于第三方模型评估工作，已加强监控。