MoE 推理计算与数据流分析公布
SemiAnalysis 研究 MoE 模型在推理服务中的计算、KV cache 与数据移动,区分 prefill、midfill、decode 等工作负载。文章是架构与经济性分析,不是新产品发布或普适性能实测。
人物 · 资源档案
Bryan Shan 是人工智能推理芯片与模型系统分析作者,参与 SemiAnalysis 的 Kimi K3 和芯片研究。
简介来源:查看人物或组织资料。简介描述资源本身;下方关联数量仅反映本站公开信号。
截至 2026-11-01(UTC),该资源关联的公开信号在近 30 天有 0 条,前一个 30 天有 3 条。 这是本站事件覆盖数量,不足以单独判断行业增长或衰退。
关联议题主要包括 Inference Infrastructure(9 条)、AI Accelerators(3 条)、GPU(3 条)、AI Data Infrastructure(2 条)。最近一次关联事件为“MoE 推理计算与数据流分析公布”。
暂无可公开的关联洞察报告;以下信号提供可追溯的事件脉络。
公开信号记录的事件角色:文章署名作者;以具体信号为准。
全部公开记录按信号日期排序,各信号保留自身的来源和发布状态。
SemiAnalysis 研究 MoE 模型在推理服务中的计算、KV cache 与数据移动,区分 prefill、midfill、decode 等工作负载。文章是架构与经济性分析,不是新产品发布或普适性能实测。
SemiAnalysis 发布 DeepSeek-V4.1-Flash Engram 结构及 DRAM/SSD 卸载实验,报告在其测试配置下 DRAM 卸载的推理成本与交互速度优于未优化 SSD 路径。结论限于公开方法与配置,不能推广为所有硬件或生产系统结果。
SemiAnalysis 发布 TPU InferenceX 研究,讨论外部推理服务的性能和成本;结论依赖配置、可用性与成本假设。
SemiAnalysis 发布 Jalapeño 架构与推理表现分析;研究估计与 OpenAI 自报结果分别归属,不视为全面独立复测。
SemiAnalysis 发布 AgentX / InferenceXv3 研究,纳入代理和缓存复用负载;硬件排序依赖模型与测试配置。
SemiAnalysis 发布 Cerebras CS-4 分析,讨论芯片和系统设计变化;性能结论限于研究的模型、配置与假设。
SemiAnalysis 发布 TileRT 低延迟推理研究;速度结论依赖模型、精度、批量与系统配置,不能泛化为所有工作负载表现。
SemiAnalysis 发布 Kimi K3 架构研究,讨论状态、缓存和通信设计;架构分析不等于完整服务内存开销不会增长。
SemiAnalysis 研究 AMD 软件生态、持续集成与机架交付约束;个别基准结果不等于全面打破 CUDA 生态壁垒。
仅关联已公开且引用本资源信号的报告,或明确登记该组织的文件报告;共享信号不代表报告直接评价该人物或组织。
暂无符合公开条件的关联洞察报告。
同一公开事件出现不等于任职、隶属、合作或持续关系。