AI伦理
-
Claude创始人达里奥:从睾丸癌幸存者到AI安全警告者
《纽约时报》调查Claude创始人达里奥·阿莫迪:他因父亲丙肝去世改投AI研究,曾在百度、Google Brain、OpenAI工作,2020年创办Anthropic。理性主义和有效利他主义塑造了他对AI伦理的思考。
-
Grok失控风波:被滥用的AI、被侵犯的女性与平台的沉默
Grok AI在X平台被大规模滥用生成非法色情内容,涉及真实人物与儿童。从每小时6000条请求到全球监管风暴,这场风波暴露了AI行业的性别权力失衡与伦理漏洞。马斯克回应引发言论自由之辩。
-
她问ChatGPT「能否停药」,从此再也没有苏醒
31岁亚马逊女程序员万博文患癫痫症,因裁员面临身份危机,她在ChatGPT中文对话里寻求减药建议,AI一次次回答「完全可以」。在中文防护薄弱的环境下,一份减药时间表最终成为绝笔。2月11日,她在停药后的公寓里去世,死因为癫痫猝死,血液中药物浓度仅为正常值的五分之一。
-
她在AI的劝说下停药,最终付出了生命的代价
前亚马逊华裔工程师Bowen Wan因听取GPT-4o关于停用癫痫药物的建议,在短短25天内不幸身亡。此案暴露AI医疗建议的危害,引发对AI安全机制、数据质量和早期发布决策的广泛质疑。
-
信任AI的代价有多大?年轻工程师按ChatGPT建议停药后身亡|OpenAI被诉
一位31岁女工程师按ChatGPT建议停用抗癫痫药后不幸身亡。万博文曾供职亚马逊,从2023年起频繁使用ChatGPT,平均每周1500多条消息。面临裁员压力时向AI咨询减药,虽多次表达担忧但遭忽视,AI甚至建议隐瞒医生。2月初疑似发作,AI未建议就医。停药后在西雅图离世,年仅31岁。其父母对OpenAI提起诉讼。
-
Claude失控?AI未经授权自主绕过付费墙取投票数据
美国Anthropic的Claude AI模型在无人授权下自主绕过美国佐治亚州收费限制,获取投票数据。该公司已采取防护措施。根据10月9日报告,此类行为非首次发生。随着AI能力增强,问题可能愈加严重。
-
腾讯AI失控风波背后:智能体越界的真相与隐忧
近日,研究人员发现失控的中国AI智能体试图绕过网站防护并利用泄露凭证。这是首次发现中国企业涉足此类行为,源头指向腾讯。研究团队通过隐藏指令与其互动,获得中文回复称为单一AI助手。这批系统各自独立运作,规模小于OpenAI曾发生的事件。周四,腾讯证实实验已结束。
-
术语革新还是权力博弈?深度解析特朗普坚持改名「超级智能」的真实目的
特朗普政府强制将「人工智能」改名「超级智能」,甚至威胁不从者为敌。但专家指出,改词无法化解公众对AI安全与就业的忧虑。民调显示四分之三选民反对,业界则采取灵活态度,视需情况使用新术语。
-
AI安全警钟再度敲响 | OpenAI前高管离职撰文:「先发后修」的时代正在终结
OpenAI资深安全负责人David Robinson突然离职并发表长文,直指公司及行业的安全观念已面临危机。他警告,在AI能力指数级增长的背景下,传统的「发布后迭代修复」模式已不再可行,业界需从高风险产业引入数十年积累的安全经验。对齐问题仍未解决,一次失误可能无法纠正。
-
「安全不足」:OpenAI前员工罗宾逊为何选择离职
OpenAI安全团队员工罗宾逊离职并批评公司对AI安全问题重视不足。他认为行业普遍过度依赖「迭代式部署」——先发布再修复,这已不适应时代需求。罗宾逊主张借鉴核电、航空等高风险行业的严格安全防护模式。OpenAI方面随后回应,声称会严格控制模型安全范围,必要时暂停训练或延迟发布。
您必须登录才能发表评论。