生物武器

《商业内幕》邀请ChatGPT、Gemini、Claude和Grok四款AI分析人类灭亡风险。结果意外一致：好莱坞式杀手机器人最不可能，人类利用AI制造生物武器、发动网络攻击才是真正威胁。四大AI共认人类滥用风险更迫切，但在AI失控风险判断上专家存在分歧。

Anthropic近日公布，今年已多次阻止不法分子利用其AI模型进行生物武器相关研究。该公司在滥用监测报告中指出，由于正当生物学研究与危险病原体研发在技术层面难以区分，判断真实意图面临挑战。报告详列了多类滥用案例，专家表示这些发现证实了不法分子正秘密利用先进AI技术强化生物武器研发能力。