IT之家·· 6 天前AI 评分39
Anthropic 警告:小型 AI 模型数月后或将具备在物联网设备上自我复制的能力
利空-0.35对 相关行业影响 中等
AI自主复制能力带来网络安全风险
stock_ai_django 新闻打标(gpt-6-luna),方向针对资产价格,不是本站判断,也不构成投资建议
AI 导读
IT之家 10 月 13 日消息,Anthropic 于当地时间周一称,其实验表明,再过数月,小型 AI 模型或将具备在商用物联网(IoT)设备上自我复制的能力,这类设备包括智能烤箱、杂牌安卓电视盒子等。在实验中,Anthropic 研究 AI 模型能否找到存在安全漏洞的设备、把自身复制到设备内,并在无需人类干预的情况下持续扩散。研究发现,参数量 300 亿以下的小模型可以完成自我复制流程里的多项步骤,但很难独立跑完从头到尾的完整链路。在移除部分安全校验环节的简化测试环境下,Anthropic 发现 GLM-5.2 以及性能更强的模型能够实现端到端的完整自我复制。Anthropic 警告,这类
来源:IT之家 · ithome.com