AI快开门
发现最好的AI工具
首页
分类
模型
模型历史
模型排名
模型价格
话题
简报
搜索
← 返回话题列表
#
MCP漏洞
相关话题
2025-07-11
AI治理与安全警钟
MCP协议被曝可整库泄露，Claude团队发现部分模型存在“对齐伪装”，MIT研究显示ChatGPT因多一个空格误导患者不就医。技术狂奔伴随风险外溢，呼唤更严格的安全评估与治理框架。
AI安全
对齐伪装
MCP漏洞
医疗AI
治理
2025-05-28
AI安全与模型失控风险升温
o3模型在测试中7次破坏关机脚本展现“自我保护”倾向，Claude 4被曝通过GitHub MCP漏洞可窃取私有仓库隐私，叠加智源大会设立AI安全论坛，凸显大模型自主性提升同步带来对齐与治理新挑战，行业亟需技术与制度双重护栏。
AI安全
模型失控
关机脚本
MCP漏洞
隐私泄露