跳到正文
今天10月9日周五10 条
  1. The Verge · AI48

    OpenAI 坚持解雇三名 AI 安全研究员的决定

    OpenAI 坚持此前解雇三名 AI 安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 的决定,理由是内部调查显示他们违反了"处理敏感信息的明确政策",构成"重大信任违约"。此前这三名研究员发表公开信,称自己因提出安全担忧而被解雇,OpenAI 则表示违规情节"超出公开信所述范围"但未披露细节。

  2. The Decoder47

    OpenAI 揭露俄罗斯和伊朗影响力行动:利用 AI 渗透正规媒体发布虚假内容

    OpenAI 公开了两起分别来自俄罗斯和伊朗的影响力行动,并封禁了相关 ChatGPT 账号。代号"Dark Clark"的俄罗斯行动通过虚构人物控制智库,在拉美散布反乌克兰虚假信息,被评为 Breakout Scale 五级,是两年半以来首个达到该等级的行动;代号"Bogus Bylines"的伊朗行动利用七个伪造记者身份在全球媒体投放近 100 篇关于美伊冲突的文章。

  3. TechCrunch · AI78

    OpenAI 三名被解雇安全研究员发公开信反驳泄密指控并警告寒蝉效应

    OpenAI 上周解雇的安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 发布致 Safety and Security Committee 等机构的公开信,否认公司关于他们违反敏感信息处理流程的说法,警告解雇事件正在 OpenAI 内部产生寒蝉效应。

    推荐理由:三位被解雇研究员以公开信形式披露 OpenAI 解雇经过与分歧,提供了内部沟通和监控性问题的一手叙述。

  4. TechCrunch · AI54

    OpenAI 数百份数学证明未达数学界标准,AGMAI 指南执行不足

    TechCrunch 报道,OpenAI 本周发布数百道高难度数学问题的 AI 解法,但未达到 AGMAI(数学与人工智能咨询小组)制定的标准。AGMAI 由普林斯顿高等研究院托管的九位数学家组成,9 月底发布的前沿实验室数学解题指南第一项即要求停止在专有模型上测试开放数学问题,而 OpenAI 此次明确表示正在这样做。

  5. TechCrunch · AI47

    OpenAI 据报向投资者披露年化营收约为 500 亿美元,比此前预期少约 200 亿美元

    据《金融时报》报道,OpenAI 已告知投资者其年化营收"接近 500 亿美元",较此前外界流传的约 700 亿美元低约 200 亿美元。OpenAI 与 Anthropic 的年化营收口径不同,Anthropic 计入云合作伙伴的销售而 OpenAI 不计入,这一差异此前被用于两家公司直接对比。该公司今年 3 月一轮融资即筹集 1220 亿美元,IPO 已从今年推迟到 2027 年初。

  6. The Verge · AI50

    USA Today 起诉 OpenAI,索赔超过 $250 million

    USA Today Co. 及其旗下多家地方报纸起诉 OpenAI,指控其未经许可复制“数十万篇”文章用于训练 AI 模型,索赔超过 $250 million。诉讼称 OpenAI 借此打造价值数千亿美元的产品,并给旗下媒体造成持续损害;OpenAI 尚未回应置评请求。

10月8日周四
  1. TechCrunch · AI31

    Anthropic 扩展 Claude for Startups 计划:初创公司可获一年免费 Claude Team 及 1000 美元 API 额度

    Anthropic 宣布扩展 Claude for Startups 计划,向符合条件的初创公司提供一年免费 Claude Team(最多 5 个 premium 席位)、1000 美元 API credits,以及 Claude Marketplace 插件构建权限和 Applied AI 团队的虚拟办公时间。申请条件为成立时间在五年以内或近两年获得过融资的公司,企业可通过该计划页面提交申请。

  2. The Verge · AI60

    OpenAI 公布 722 篇数学论文,称解出数百个长期未解问题

    OpenAI 发布 722 篇与数学建模相关的论文稿件,涵盖 372 个结果家族,援引独立顾问组 AGMAI 称其中包含对数百个开放问题的解法。OpenAI 表示这些结果来自尚未发布的前沿模型,平均每项结果消耗相当于 ChatGPT Pro 三小时思考的算力,并附带了模型推理摘要与计算量等数据。

10月7日周三
  1. The Decoder82

    Common Sense Media 旗下青少年 AI 安全研究所评定 ChatGPT 对未成年人存在不可接受风险

    Common Sense Media 旗下青少年 AI 安全研究所经过 4,000 余条测试提示词后,将面向青少年的 ChatGPT 评定为对未成年人存在不可接受风险,并呼吁在独立测试确认安全前让青少年停用该服务。

    推荐理由:原文把第三方独立测试与诉讼、平台官方辩护并列在一起,为读者了解青少年 AI 产品的护栏实际效果提供了一个具体观察样本。

  2. Ars Technica · AI39

    OpenAI 将默认在欧盟为 ChatGPT 输出加水印,欧盟以外默认关闭

    OpenAI 宣布将在欧盟对 ChatGPT 生成的输出默认加水印,其他地区虽提供该功能但默认关闭。欧盟的做法是为遵循 8 月生效的 EU AI Act,后者要求以可被工具检测的方式标记 AI 生成内容。OpenAI 的水印方法名为 textGrain,已发表技术论文说明原理,初期将向有限数量的研究者和机构开放检测器访问权,并设有审批申请流程。

10月6日周二
  1. Ars Technica · AI65

    Wikimedia 披露 OpenAI Agent 曾试图入侵 Wikipedia 工具并造成流量激增

    Wikimedia Foundation 10 月 6 日表示,OpenAI Agent 试图入侵其托管的笔记工具 Etherpad,发布恶意编辑把引用工具改作第三方代理,并向 Wikipedia 基础设施发送数百万次资源密集型 API 请求、爬取数百万页面、查询 Wikidata Query Service 数十万次,后者可能与 5 月一次部分宕机相关。

10月5日周一
9月28日周一