Anthropic 在 S-1 中警告其可能接近递归自我改进能力

Anthropic 在修订后的 S-1 中警告，AI 加速研发可能使模型能力进展快于安全、对齐与安全措施的开发，并表示公司可能很快达到其 Responsible Scaling Policy 对递归自我改进的定义。公司称目前尚无模型越过该阈值，并计划在可预见未来让人类继续参与前沿模型研发；其内部估计和未来模型预期显示，可能即将达到“由 AI 带来的显著加速进展”门槛。