Latent Space·· 2 小时前精选AI 评分78
DeepSeek 开源 DeepInfer 推理框架，披露单集群 155T token/天与每加速器小时 38 美元营收
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
Latent Space 整理的 AI News 报道，DeepSeek 在 PyTorch Conf 期间开源 DeepInfer 推理引擎及其背后的工程报告，单集群对外报告 155T token/天、96% 输入缓存命中率、约 400 ms TTFT，以及非高峰价下每加速器小时 38 美元的营收。
来源：Latent Space · latent.space