AI滥用

Anthropic发布154页安全报告，披露八个月内拦截的恶意案例。报告称多家中国企业试图非法「蒸馏」Claude能力，涉及阿里巴巴、月之暗面、深度求索等。此外揭示国防研究人员开发电子战工具、俄罗斯黑客网络攻击等事例。中方外交部否认指控，强调AI向善发展。

Anthropic近日公布，今年已多次阻止不法分子利用其AI模型进行生物武器相关研究。该公司在滥用监测报告中指出，由于正当生物学研究与危险病原体研发在技术层面难以区分，判断真实意图面临挑战。报告详列了多类滥用案例，专家表示这些发现证实了不法分子正秘密利用先进AI技术强化生物武器研发能力。