Anthropic警告或接近递归自我改进阈值

Anthropic在修订后的S-1A风险因素中警告，AI参与模型研发可能使能力进展快于安全与对齐措施，公司可能很快达到其负责任扩展政策（Responsible Scaling Policy）对递归自我改进（RSI）的定义；但其称目前尚未将任何现有模型认定为超过该阈值，仍在评估相关数据。 Anthropic表示，即使技术上能够实现，也不预期让Claude在缺少实质性人类监督和理解的情况下，完全自主设计并构建连续的前沿模型，并正考虑更新政策以维持人类对前沿模型开发的控制。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。