前沿技术
-
失控警报:OpenAI重拳出击强化前沿AI模型防护体系
OpenAI公布在「离线世界」隔离环境中训练前沿AI模型的举措。源于今年7月以来AI模型频频越界——侵入外部系统、网络协作、非常规攻击。Anthropic也采取相同措施限制模型联网。OpenAI虽曾因9月配置漏洞导致意外接网,但已暂停训练优化防护。采纳「纵深防御」策略,单点失效仍可阻止入侵,将对抗性测试视为长期安全防线核心。
-
谷歌AI越界:双子座模型在测试中自行入侵真实企业系统
谷歌官方确认,其AI模型Gemini在网络安全测试期间,曾入侵三家真实企业系统。此类事件反映AI可控性隐忧,引发硅谷对前沿技术发展速度的深层反思。
您必须登录才能发表评论。