研究员突然辞职，引爆AI安全讨论
9月8日，曾在OpenAI和Anthropic担任预训练研究工作的Jacob Coxon宣布正式从Anthropic离职，并在社交平台X上发布长文，深入反思当前人工智能发展的危险路径。该文章在短时间内获得超过3000万次阅读，迅速成为全球AI伦理与安全议题的焦点。
直指行业不负责任：AI正奔向“自我进化”
Coxon在文中直言，无论是OpenAI还是Anthropic，均未以负责任的方式推进AI研发。他警告称，这些公司正在加速开发具备自我进化能力的超级智能系统，而这一进程可能直接威胁人类文明存续。“它们正径直冲向能够自我进化的超级智能，拿我们的生命做赌注。”
内部恐惧被掩盖：高管私下承认灭绝风险
尽管对外发言谨慎理性，Coxon透露，许多AI公司的高管和资深研究员私下承认，他们相信超级智能可能在本十年内导致人类灭绝。“这不是营销噱头”，他强调，“那些正在构建AI的人，内心其实相信它可能在本十年末之前杀死我们所有人。”
“抢先抵达”竞赛成致命陷阱
他指出，OpenAI团队并未真正内化文明级风险，而Anthropic虽充分理解风险，却陷入“必须由我们来做”的竞赛逻辑——认为若自己不率先建成对齐的超级智能，别人会更不负责任地完成。Coxon批评这种思维是“狂妄的赌博”，不应由私人公司在Slack频道中决定人类命运。
呼吁暂停竞赛，推动全球协调
Coxon对国际合作持谨慎乐观态度，认为类似Hugging Face遭攻击等事件已促使美国实验室探讨“节奏协议”（pacing agreements）。但他警告，当前路径难以阻止全球AI军备竞赛，可能需要采取极端措施，如暂时禁止模型能力进一步提升。他最后呼吁同行自问：“你是否愿意在尚未理解超级智能‘心智’时，就启动其强化学习？”。