研究称 MCP 代理间通信存在结构性漏洞,Google 等机构产品受影响
独立研究者 Syed Anas Mohiuddin 公布了针对 Google、JP Morgan Chase、Weviate、Rapid7 及法、美两国政府机构 AI 代理的 PoC 攻击,利用 MCP(Model Context Protocol)中代理间信任链传递恶意提示词,使一个被入侵的代理把指令转发给下游代理,引发数据外泄等风险。
独立研究者 Syed Anas Mohiuddin 公布了针对 Google、JP Morgan Chase、Weviate、Rapid7 及法、美两国政府机构 AI 代理的 PoC 攻击,利用 MCP(Model Context Protocol)中代理间信任链传递恶意提示词,使一个被入侵的代理把指令转发给下游代理,引发数据外泄等风险。
Google Research 发布《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》研讨会报告,汇集 50 余位学术界与产业界专家,梳理 LLM 驱动的 AI 智能体在隐私与安全上面临的三项核心挑战:非结构化输入模糊、概率性控制流、自主性与任务委派削弱用户监督。
Google 推出基于 TEE 的新一代联邦学习系统,可远程验证匿名化逻辑,实现更强的隐私保障与更高的准确率。该系统已在 Gboard 上部署,计算速度明显快于此前方案。系统通过公开访问策略日志和可复现构建,支持外部审计设备数据的使用范围。
Berkeley AI Research 介绍 SPEX 与 ProxySPEX 两套面向 LLM 的可解释性算法,可在特征归因、数据归因与机制可解释性中以少量扰动识别高阶交互。