文章列表

全部文章

支持按专题与标签筛选，并切换最新或推荐排序。

但这里存在一个容易被忽视的问题：Agent 的执行日志，真的能够完整反映它做过的事情吗？

这种思路确实有效，但也存在一个难以回避的问题：攻击者的策略总是在变化。当攻击者改变攻击的表达方式、伪装身份，或者把恶意指令隐藏在更复杂的任务上下文中，模型过去学到的防御模式是否依然有效？

一种常见的解决思路，是在 Agent 和外部环境之间部署一个专门的安全决策模型。每当 Agent 准备执行操作时，先由这个模型检查操作是否符合安全策略，再决定允许还是拦截。

本文研究论文经「模安局·共研计划」推荐，由《模安局》独立完成解读。

例如，企业内部有一个财务 Agent、一个人事 Agent 和一个差旅 Agent。它们可能使用相同的基础模型，甚至接入相同的工具平台，但职责完全不同。

本文研究论文经「模安局·共研计划」推荐，由《模安局》独立完成解读。

直觉上似乎应该如此。毕竟，每个 Agent 都能抵御提示注入，多个 Agent 组合之后，理应也能抵御同样的攻击。但现实并没有这么简单。

有意思的是，仅仅一天之后，DeepSeek 就公布了新一轮开源计划。这次，它开放的不是新的模型权重，而是一套支撑自身大规模模型服务的推理框架 DeepInfer。

本文研究论文经「模安局·共研计划」推荐，由《模安局》独立完成解读。

2026 年 10 月 2 日，苏黎世联邦理工学院、剑桥大学、帝国理工学院等机构的研究人员发表论文《Securing Computer-Use Agents Against Branch Steering Attacks