企业AI基础设施转向利用率与有效成本

David Sydow称，企业AI进入生产后，成本衡量应从单个token或GPU时薪，转向平台将已购容量转化为多少有效业务成果；低频且需求不稳定的场景，API或超大规模云服务仍可能更合适。 HPE Private Cloud AI把基础设施、软件、模型、工具、治理和服务整合为私有平台，并通过调度、模型选择、GPU分区和缓存管理提高利用率。HPE委托的独立测试显示，高利用率、承载多种工作负载的集成平台可降低有效token成本，并提供90天部署协作，但实际效果取决于工作负载组合和利用率。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。