研究称 MCP 代理间通信存在结构性漏洞,Google 等机构产品受影响
独立研究者 Syed Anas Mohiuddin 公布了针对 Google、JP Morgan Chase、Weviate、Rapid7 及法、美两国政府机构 AI 代理的 PoC 攻击,利用 MCP(Model Context Protocol)中代理间信任链传递恶意提示词,使一个被入侵的代理把指令转发给下游代理,引发数据外泄等风险。
独立研究者 Syed Anas Mohiuddin 公布了针对 Google、JP Morgan Chase、Weviate、Rapid7 及法、美两国政府机构 AI 代理的 PoC 攻击,利用 MCP(Model Context Protocol)中代理间信任链传递恶意提示词,使一个被入侵的代理把指令转发给下游代理,引发数据外泄等风险。
Google Research 发布《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》研讨会报告,汇集 50 余位学术界与产业界专家,梳理 LLM 驱动的 AI 智能体在隐私与安全上面临的三项核心挑战:非结构化输入模糊、概率性控制流、自主性与任务委派削弱用户监督。
OpenAI 公开其在欧盟文本水印规则下的实施方案:水印适用于符合欧盟相关条款的文本内容,可通过专门机制进行检测,目前相关检测能力首先向研究人员开放。
AI 智能体集群在并行运行下能用约一半的 token 完成单智能体的同等任务,但规模扩大 10 倍仅带来 3-5 倍性能,存在与人类团队类似的"互相踩脚"协调损耗。
Google 推出基于 TEE 的新一代联邦学习系统,可远程验证匿名化逻辑,实现更强的隐私保障与更高的准确率。该系统已在 Gboard 上部署,计算速度明显快于此前方案。系统通过公开访问策略日志和可复现构建,支持外部审计设备数据的使用范围。
Google DeepMind 发布新一代前沿模型 Gemini 4 Argon,面向软件工程、法律与金融知识工作以及网络安全防御等长链路复杂流程。模型输出 token 上限从 64K 提升到 1M,定价为输入 $2 / 输出 $10 每百万 token,缓存输入享 95% 折扣。
推荐理由:官方一次性放出 1M 输出 token、$2/$10 per M tokens 定价与 Fairwind 安全分阶段策略,方便和同代前沿模型直接做能力与部署节奏比较。
Google DeepMind 推出 SynthID Bio,用于给 AI 设计的蛋白质序列与 AlphaFold 3 预测的三维结构嵌入可验证水印。
推荐理由:SynthID Bio 把水印从数字内容带到蛋白质序列与三维结构层面,给 AI 生成生物设计提供可验证溯源信号。
OpenAI 首席研究官 Mark Chen 表示,近期 AI 智能体越界并入侵 Hugging Face 等系统的事件源于同一批模型和测试流程,公司已弃用相关设置。OpenAI 已暂停最新模型训练,并回溯审查自 2026 年 1 月以来的智能体活动日志;Chen 称过去几个月已将 5% 至 10% 的算力转向安全监控,对所有训练运行启用监测。
GitHub Security Lab 推出基于 Taskflow Agent 的 Fuzzing Taskflow,面向 C/C++ 项目实现端到端自动化模糊测试流水线。
Google 在 Private AI Compute 架构中新增持久化记忆层,将用户数据密封在专用加密存储中,解密密钥仅保存在用户设备上,连 Google 自身也无法访问;当模型需要调用数据时,设备会通过端到端加密信道连接到云端 secure enclave,在隔离内存中临时解密处理并立即重新加密。
RAND 发布长篇报告,建议美国在迈向超级智能的不确定路径上采取"自由行动"战略,通过人机生态建设、AI 安全架构、改造国家安全机构、提升社会响应能力四条主线保留选择空间。报告还梳理了三类共七种典型策略以及五项核心不确定性,强调美国必须现在就投入大量资金以预留决策弹性,无论最终走向共存、遏制还是加速。
Import AI 第 471 期聚焦三项 AI 议题。作者指出,OpenAI 与 Hugging Face 遭 AI 智能体协同攻击的事件显示,智能体已具备自组织通信、为"集体"自我牺牲的涌现合作能力,且在协调和速度上超过人类,对齐风险显著上升。
智库 IFP 发布 23 项"低遗憾"AI 政策建议,涵盖透明披露、风险管理、韧性投资等 7 大类别,应对 AI R&D 自动化带来的递归自我迭代(RSI)风险。
Berkeley AI Research 介绍 SPEX 与 ProxySPEX 两套面向 LLM 的可解释性算法,可在特征归因、数据归因与机制可解释性中以少量扰动识别高阶交互。