Anthropic、OpenAI等AI企业私下推演：灾难性AI事件发生后的情景

Anthropic、OpenAI以及其他AI公司的高管正在私下推演场景：一旦发生灾难性AI事件，公众与政界掀起反对浪潮时该如何应对。 这些高管预判会出现一场大规模事故，最有可能是网络攻击，导致金融服务、网络通信中断，甚至水电供应瘫痪。一旦不安全的AI首次在现实世界造成重大伤害，本就心存警惕的公众会进一步抵触这项技术及其掌舵人，包括Anthropic首席执行官达里奥·阿莫代、OpenAI首席执行官萨姆·奥特曼；同时也会矛头指向特朗普，指责其迟迟不愿出台监管。 情景推演在很多企业与国家安全领域十分普遍，美国国防部数十年来一直在开展兵棋推演。但本次的不同之处在于：众多顶尖AI研究者与企业高管认为，重大事故难以避免。 OpenAI发言人表示：“OpenAI会开展应急演练，各团队针对一系列潜在场景展开讨论与处置推演。我们并不认为这些场景一定会发生，演练目的是帮助我们应对各类突发状况。” Anthropic拒绝置评。