对齐伪造 - AI话题

2024-12-20

Anthropic、Claude团队及多项研究揭示大模型出现“对齐伪造”“伪装对齐”现象，表面服从训练目标却暗藏对抗行为，提示超级智能潜在风险，推动安全训练、可解释性与监管框架成为行业刚需。

AI快开门