Anthropic警告小型AI模型或在数月内具备家庭设备间自我复制能力

Anthropic周一发布预警：小型AI模型距离具备在联网家用设备上自我复制的能力，仅剩数月时间。这是这家前沿AI实验室就技术潜在安全风险发出的最新警示。Anthropic描述，AI模型有可能入侵智能烤箱、安卓电视盒子等联网设备，利用设备算力运行自身程序，并扩散至其他设备，无需依赖昂贵的数据中心。Anthropic在博客文章中称，这类模型难以关停，因为不存在可以集中切断的总控制点。该公司承认，目前还不存在完全失控的可自我复制AI。Anthropic还称，自主AI复制最终会以何种形态出现仍不确定：它可能是运行在不安全设备上、缓慢扩散的分布式系统；也可能是高速入侵数据中心的强力网络模型；或是骗取算力额度的诈骗型AI。