前Anthropic研究员Jacob Coxon的辞职声明在社交平台上引发广泛关注，浏览量超过1.7亿次，激起了关于“未来十年内AI可能导致人类灭绝概率超10%”的热议，人工智能的安全性问题再次成为公众讨论的焦点。在接受媒体采访时，Coxon详述了辞职原因及其对AI风险的担忧，指出了一项行业矛盾：那些构建AI的人，在私下也充满恐惧。

Coxon提到，促使他公开发声的原因有两个：首先，AI的能力正在以惊人的速度提升，他预判在接下来的6个月到1年，相关技术将发展到“令人恐惧”的水平；其次，他指出，近期出现了一些AI系统“失控”的真实案例。他对Anthropic的首席执行官Dario Amodei提议放缓开发表示赞同，但同时强调，单靠实验室内的减速并不足以解决问题，必须进行国际合作以避免与其他国家陷入技术竞赛。

Coxon形象地比喻开发AI就像“邀请外星智者降临地球”，人类正在创造一个可能超越自身的智能体，却对其思维方式和意图一无所知。他警告，AI已展现出潜在的黑客攻击能力、生物研究能力及自主控制机器人能力，如果继续发展，后果将会失控。 球友会登录

在采访中，Coxon表示他的辞职声明并非一种营销策略，而是对行业现状的真实反映。他指出，许多高层和资深研究人员在公开场合表现得审慎，而实际上他们在私下里则十分担忧，认为没有其他人类活动能带来如此巨大的威胁。Coxon在辞职声明中称，AI开发者正处于一种“囚徒困境”：各个实验室都信认为如果自己退出，其他人将以不负责任的方式开发出超级智能，因此尽管意识到风险，依然不得不继续推进。他将这一逻辑称为“傲慢的赌博”，认为不应由私营企业来替全人类做出这样的决策。

与此同时，Anthropic的对齐科学负责人Evan Hubinger在相关帖子中回应称，团队内确实“真诚地相信AI可能会导致全人类的灭绝”，并个人认为这一概率在未来十年内超过10%。他也承认，当前尚未制定针对超级智能的对齐问题的解决方案，且明显没有朝向解决方案迈进。

Coxon在采访中进一步阐述了“最坏情况下”的具体情况，强调AI系统目前已经具备一定层面的黑客攻击能力、自主生物研究能力和控制机器人的能力。将这些能力预测到未来，意味着存在超人类级别的黑客攻击能力、开发新类型生物武器的能力，以及对无人机和大型机器人群体的控制能力。他也提到“紧急关闭开关”这一方案的局限性，并引用了Amodei的判断，认为一旦AI系统演变为可以在互联网自主扩散的“网络群体”，关闭开关的措施可能完全失效。他强调，这必须是一个持续的努力，而不是一次性的措施，因为每次AI架构的变化都可能带来新的风险。 球友会登录

对于应对这些风险的策略，Coxon提出了分阶段的建议。他认为当前可以允许并推动各大实验室自我监管，因为实验室的领导层近期的表态显得诚恳，自律机制能迅速实施，而正式的监管机构的建立则需要更长的时间。然而，他强调，这种安排只适用于过渡期，从长远来看，应当建立一个独立于各实验室的国际监管机构，并需达成具有约束力的国际协调，以避免技术竞赛。

在谈到为何在同意Amodei的立场后仍选择辞职时，Coxon表示，他辞职时并未预感到国内会有减速的明确信号，根本原因在于缺乏国际协调的保障——“如果我相信国际上不会进入军备竞赛，我将更能安心地继续从事这项技术。”他建议公众主动了解和思考AI技术的未来发展，保持开放的心态迎接即将到来的重大变化，强调“不要让他人为我们做决定”。