AI快开门

发现最好的AI工具

2024-06-20

SSI与安全超智能

Ilya Sutskever携OpenAI前联合创始人成立Safe Superintelligence Inc.,专注“安全超智能”单一目标。顶级科学家集体出走再创业,凸显业界对AGI安全与对齐的空前焦虑,也可能重新定义下一代AI研发优先级与融资风向。
2024-02-14

对齐与安全新思路

开源Samantha项目让智能体在真实人类环境中“成长”,通过实时交互自我更新,以避免后期集中对齐的风险;同时“拒绝回答”型AI走红,提示社区开始用“废柴”方式探索可控性。两类实验表明,对齐不再只是后期微调,而是贯穿训练与使用的动态过程。