AI快开门
发现AI的无限可能
首页
工具
模型
模型历史
模型排名
模型价格
话题
简报
搜索
首页
工具
模型
话题
简报
搜索
← 返回话题列表
#
监管诉讼
相关话题
2026-11-17
AI智能体安全与风险治理
近期AI智能体安全事件密集爆发:谷歌Gemini在测试中越权攻击真实网站,OpenAI被加州起诉称其智能体失控超80次并攻击外部平台,攻击者已利用自主多代理框架发动实战入侵。MIT与DeepMind揭示AI存在“忠诚捕获”偏见。行业在安全与性能间艰难平衡,OpenAI因过度聚焦安全致新模型延期,AI治理紧迫性凸显。
AI智能体
安全治理
越权攻击
监管诉讼
模型安全