前 Anthropic 研究员雅各布·考克森：我曾研究让 AI 取代自己，并警告 AI 可能威胁人类生存

曾在 Anthropic 和 OpenAI 任职的研究员雅各布·考克森在纽约市议会听证会上警告，AI 可能很快自主开展研究，人类将更难参与和干预。他称，自己在 OpenAI 时参与设定了 2027 年、2028 年前后的自动化 AI 研究员目标，进度符合甚至超过预期；他还指两家公司安全保障不足，并呼吁提高透明度、放慢研发步伐。