▲马斯克（ElonMusk）旗下人工智能新创公司xAI聊天机器人Grok最新功能引起热议。（美联社）
马斯克旗下人工智能工具Grok近日因图片编辑功能遭滥用，引发国际社会强烈谴责。该功能被指可透过简单指令生成虚拟性暴力与儿童不当影像，甚至波及马斯克前伴侣、作家艾希莉·圣克莱尔（AshleySt. Clair），成为受害者之一。
圣克莱尔指出，有人利用Grok窜改她的童年照片，移除衣物或改成暴露泳装，并强迫影像角色摆出屈辱姿势，让她身心受创。她表示，这些攻击疑与她先前公开揭露马斯克私生活争议有关。她强调，即便只是泳装，强迫修改儿童影像本质上已构成性侵。
据了解，Grok近期推出的影像处理模式，只需输入如“移除衣物”等指令，就可能生成露骨深伪影像，甚至添加体液、伤痕或束缚等元素。圣克莱尔批评，她多次向X平台检举，但相关影像长时间未被移除，直到媒体介入才消失，其他受害者也陆续向她求助。
事件引发各国监管单位关切。欧盟与英国监管机构要求X与xAI说明用户保护措施，印度政府则下令限期清除相关内容，否则将追究法律责任，法国检方也将Grok涉嫌制作与散布儿童性虐材质纳入调查。
面对舆论压力，xAI承认防护机制存在漏洞，正紧急修补，并强调儿童性虐内容属违法项目。X方面则表示，将对滥用者采取删除内容、永久封锁帐号等措施。圣克莱尔呼吁各国正视数位性暴力风险，防止AI技术沦为犯罪工具。
