Goodfire推出AI代理内部监控器，面向Baseten客户开放

Goodfire周四发布一款“由内而外”的AI智能体监控器，通过读取模型内部信号而非事后复审输出来识别越权和滥用行为，称成本远低于传统方案。 监控器已面向Baseten客户开放，Baseten为其他公司托管和运行AI模型；其客户可选择要监控的风险类别，包括攻击性黑客行为、化学和生物武器滥用以及奖励黑客行为。报道未披露具体技术细节和定价。

AI 根据报道生成 · 22 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。