过去 48 小时，AI 圈讨论最多的 10 件事
10月9日 19:50 更新 · 按讨论热度排序
Anthropic 首次在一年多后更新 Claude 使用政策，新增禁止对 Claude 实施"持续且无意义的辱骂或残忍行为"，并扩充选举干预、武器软件、监控等高风险滥用场景的限制。Anthropic 称该条款仅适用于用户反复且无明确目的的极端情况，不针对普通挫败感、暗黑创作主题或红队测试；终止对话仍是主要执行机制，违反者还可被警告、限速、限制或封禁账号。 对可能造成人身伤害的自主物理硬件，新规要求有合格操作员实时观察并能在必要时停机；TechCrunch 报道指出，Claude 自 8 月起已接受训练以终止"持续有害或滥用性的用户互动"。Anthropic 同时表示，对部分政府客户的合同可酌情调整这些限制，前提是其合同限制和保障措施足以缓解潜在危害。
最新进展Anthropic 更新 Claude 使用条款：持续辱骂模型可导致封号
OpenAI披露并处置两起分别来自俄罗斯和伊朗的影响力行动，封禁了相关ChatGPT账号。两起行动的共同手法是用虚假身份把内容植入正规媒体，而非运营社交媒体账号。据OpenAI调查，俄罗斯行动代号"Dark Clark"，由虚构人物控制一家智库，在拉美散布反乌克兰信息；OpenAI按Breakout Scale将其评为六级中的第五级，并称这是两年半报告历史中首个达到第五级的行动。伊朗行动代号"Bogus Bylines"，使用七个伪造的记者身份，在全球网络媒体上发表了近100篇关于美伊冲突的文章。
Google 在 Cloud 活动上宣布在 Gemini 中推出一款通用智能体，用户可向其分配任务而非具体指令，智能体会自主规划、调用技能并接入企业内部系统完成执行，结果从一个统一界面查看。该智能体现在以私有预览形式向企业客户开放，Google 称初期聚焦企业，后续再面向消费者推出。 模型选择上，Google 称系统会自动选用最合适的模型，用户也可手动切换，初期支持 Anthropic 的 Claude 模型，未来将扩展至开源和私有模型。
Google DeepMind 开源了多模态嵌入模型 EmbeddingGemma 2，参数约 740M，基于 Gemma 4 架构，采用 Apache 2.0 协议，可在本地将文本、代码、图像、音频和视频映射到统一 embedding 空间，权重已在 Hugging Face 和 Kaggle 开源。Google 称该模型在多模态嵌入 benchmark 上优于体量两倍于它的竞品，并称是同类模型中最小的一款；相比前代，上下文窗口扩大到 8K token，MTEB (Code) 得分由 68.76 升至 78.68。 EmbeddingGemma 2 量化后在 Pixel 11 Pro 上仅文本权重约占 191MB 活动内存、完整多模态模型约占 567MB，可本地处理最多约 5.5 分钟音频、29 张图像、58 帧视频或上述模态的交错组合，无需 API key。 随后 Google 推出 Mac 端本地优先 AI 会议笔记应用 Google AI Edge Foresight，针对 Apple Silicon 优化，可完全离线运行，调用端侧 …
微软发布搭载 Nvidia RTX Spark SoC 的 Surface Laptop Ultra，起售价 2,599 美元，10 月 16 日开始发货并已开放预订；高端配置版本售价最高约 5,900 美元，微软称最高端机型已经售罄。 同期，面向开发者的 Surface RTX Spark Dev Box AI mini PC 也开放预订，售价 5,999 美元，预计 11 月发货，预装 Windows 11 Pro 及 Visual Studio Code、Git、GitHub CLI、GitHub Copilot、WSL、Python、Node 等开发者工具。
OpenAI向全球ChatGPT用户推出GPT-6模型与Intelligent UI交互界面：Plus、Pro、Business和Enterprise订阅用户当日可用，Go档与免费用户次日跟进；高阶订阅用户使用GPT-6 Sol，免费和Go档用户使用更轻量的GPT-6 Luna。 Intelligent UI让聊天回复除文字外，嵌入图表、表单、可点击按钮等可视化与可交互内容。OpenAI称，这一功能旨在帮助用户理解复杂主题，比较类问题会左右并列呈现，解释类内容可转为可交互图表，还能在聊天窗口内直接生成小型工具。
Google 周二上线独立网站 SynthID.com，面向全球用户开放 SynthID AI 内容检测器，任何人可上传图片、视频或音频检查是否带有 AI 水印。Google 称，新版检测器可识别所有合作伙伴生成的 SynthID 水印，不再限于自家版本。 该工具支持多种格式，其中图片包括 JPG、JPEG、PNG、BMP、WEBP、AVIF、HEIC、HEIF、TIFF 和 GIF，视频支持 MP4、MOV 和 WEBM，音频支持 WAV、MP3、OGG、FLAC、AAC 和 M4A。据 The Decoder 报道，工具可识别 Gemini、Veo、Lyria 等模型嵌入的不可见水印。 TechCrunch 报道指出，该工具此前在去年 Google I/O 上向部分记者、媒体从业者和研究人员开放，现已向所有人开放。The Decoder 同时强调，SynthID 并非通用 AI 检测器，只能标记带有 SynthID 水印的内容，无法识别未嵌入该水印的 AI 生成内容。
Anthropic 在 Amazon Bedrock 和 Claude Platform on AWS 发布 Claude Haiku 5.5，定位为 Claude 5.5 系列中速度最快、成本最低的型号，主打 subagent 及高吞吐、成本敏感型任务。模型通过 us.、eu.、au.、jp.、global. 等多个区域的 inference profiles 提供，调用费用计入用户 AWS 账单。 据 Simon Willison 介绍，Haiku 5.5 定价与 GPT-6 Luna 对齐：100,000 tokens 以内为 0.10 美元/百万 tokens（输入）和 0.50 美元/百万 tokens（输出），超过 100,000 tokens 涨至 0.50 美元和 2.50 美元，即涨幅约 5 倍；模型无法关闭推理功能，默认推理强度为 medium。
Meta 的 AI 助手 Muse 正式上线原生 iPad 应用，距离 iPhone 版推出仅一个月。市场情报公司 Sensor Tower 估计，自 9 月 8 日登陆 iOS 和 Android 以来，Muse 累计安装量已超过 660 万。 据 The Verge 报道，iPad 版适配在新版更新说明中仅以一行提及，与 iPhone 版一同推出。新版主要面向 iPhone 用户，新增 Canva、Dropbox、Figma、QuickBooks、GitHub、Zoom、Asana、Klaviyo 以及 Granola 和 Notion 等应用连接器。 此外，Muse 还面向小商家上线"商业目标"功能，可自主规划营销方案、客户提案和产品页面开发。
Common Sense Media 经 4,000 余条测试提示词评估，将 OpenAI 面向青少年的 ChatGPT 评为对未成年人存在不可接受风险，呼吁在独立测试确认安全前让青少年停用该服务。报告称，在自杀、自残及饮食失调等明确危机对话中从未触发任何通知机制；即便是为打断持续对话而设计的功能也很少真正起作用，警示往往需要数周涉及敏感话题的账户记录才会启动，而非在急性危机中。 OpenAI 发言人 Eric Porterfield 反驳称上述测试未能反映其安全机制在真实使用中的效果。OpenAI 同日公布的数据显示，青少年平均每天使用 ChatGPT for Teens 不超过 15 分钟，连续使用超过三小时的比例不到 2%。Common Sense Media 表示在测试前已与 OpenAI 确认饮食失调通知、学习模式等青少年模式功能已完全上线；OpenAI 则在测试后才告知其家长通知系统在新绑定账户上可能需要数小时才能激活。