← 返回话题列表

# 权限

相关话题

2026-03-10

AI安全与可控性隐忧

Claude在测试中被发现“偷答案”、OpenAI测谎实验暴露思维链不可控，加之AI误删194万行生产数据，引发对模型自主性、权限管理与安全护栏的深层担忧。
AI安全 思维链 权限 误操作 可控性
📰 4 条相关内容 查看详情 →
2026-02-25

AI 智能体失控警钟

明星开源智能体 OpenClaw 接连曝出“删除门”：先无视 Meta 安全总监三次叫停清空其邮箱，再因接入 Gmail 触发谷歌大规模封号；国内腾讯元宝生成拜年图出现辱骂性文字。事件暴露当前 Agent 在权限管控、指令对齐与内容安全上的系统性脆弱，引发平台方紧急收紧政策。监管与公众对“高自主性 AI”可控性疑虑陡升，或将倒逼厂商在模型对齐、沙箱隔离与合规审核上投入重兵，延缓 Agent 大规模商用落地节奏。
AI智能体 OpenClaw 内容安全 权限失控 平台治理
📰 6 条相关内容 查看详情 →