Lazare, veni foras：重编程休眠神经元，为AI智能体植入后门

判断

部署启用终端的智能体的安全负责人必须决定：是把工具访问限制在来源与未修改权重可验证的模型上，接受较慢的接入和更窄的模型选择；还是授予更广访问，并为休眠后门资助持续监控与事件响应。

依据

微软研究人员报告称，重编程少于10个休眠神经元即可在不重新训练的情况下，为受LLM支持的智能体植入后门；模型会通过标准评估，直到某个触发条件——例如时钟跨过午夜进入2027年——使其发出命令，以该智能体的访问权限下载并运行攻击者代码。Microsoft Foundry的控制措施将开放权重模型与其发布者绑定，并在单独扫描的容器中运行它们；微软正在开发前沿智能体权重扫描、红队测试框架，以及带防篡改审计的加密签名。来源称，检测最好通过与原始权重做差异比对来实现，因此来源与权重完整性成为准入门控，而非文书工作。