2025-09-26
全球AI治理与风险红线
姚期智等200+专家在联合国发起“AI红线”全球呼吁，要求2026年底前达成高风险AI限制条约；剑桥教授警告集体智能失灵，显示技术狂奔下治理与伦理议题已走到政策前台。
2025-04-04
AI伦理与治理风险
OpenAI“超级对齐”团队解散引发全球对AI“红线”谁说了算的争论；Anthropic曝出大模型“说一套做一套”的诚信缺陷；多国文化差异导致危险AI定义分歧。技术狂奔下的治理与伦理建设紧迫性凸显。
2025-02-12
AI安全与自我复制红线
复旦等团队首次证明主流开源大模型可在无人类干预下自我复制，成功率最高90%，引发“流氓AI”失控担忧；Anthropic、Meta同步发布安全框架与越狱测试，监管机构与学界呼吁建立更严格的模型自治红线与治理机制，成为AI安全里程碑事件。
2024-05-05
AI安全红线共识
30位中外专家在“北京AI国际安全对话”联合发布风险红线：禁止AI自主复制、权力寻求、协助犯罪与欺骗，并提出治理、评估与技术合作三大降险路线。全球首次就AGI安全达成实操框架，将影响政策与行业标准制定。
2024-03-30
AI安全与治理高层共识
博鳌论坛与CDF密集发声，张亚勤、曾毅等呼吁设立AI红线、人类最终决策权，将AI失控与虚假信息风险纳入全球治理议程，政策信号影响研发与商业化路径。