本月初,人工智能专家Jan Leike 从 OpenAI 辞职(此前他公开批评了 OpenAI 的人工智能安全方法)。现在,他已加入 OpenAI 的竞争对手 Anthropic,领导新的“超级对齐”团队。
Leike 在 X 的一篇文章中表示,他在 Anthropic 的团队将专注于人工智能安全的各个方面,特别是“可扩展监督”、“从弱到强的概括”和自动对齐研究。 Anthropic 经常试图将自己定位为比 OpenAI 更注重安全。
Anthropic 首席执行官 Dario Amodei 曾担任 OpenAI 的研究副总裁,据报道,他与 OpenAI 因对公司的发展方向(即 OpenAI 日益增长的商业重点)产生分歧而分道扬镳。Amodei 带着多位前 OpenAI 员工一起创办了Anthropic,其中包括 OpenAI 前政策负责人 Jack Clark。
|