AI基础设施正在以肉眼可见的速度迭代:下一代GPU机架进入规模交付期,而内存成本又身处新一轮上涨周期,两股力量同时挤压着运维团队的预算与架构规划。
1. Supermicro 启动英伟达 Vera Rubin NVL72 机架出货。这标志着英伟达下一代 Rubin 平台正式进入交付阶段,NVL72 机架级方案意味着液冷、供电和机柜布局都要按新标准重构。对计划跟进大模型训练与推理的团队来说,机房改造和选型的窗口已经打开。原文链接
2. 卢伟冰谈内存成本剧烈上涨周期。内存涨价不只影响手机,服务器 DRAM 同样是大头,云厂商与自建机房的扩容成本正在被推高。提前锁定采购节奏、评估冷数据分层存储与缩容策略,是眼下就该排上日程的事。原文链接
3. 小米 MiMo-V3 官宣全新架构,核心 HySparse 2 今日发布。从命名看,HySparse 2 指向稀疏注意力/稀疏计算方向,开源推理生态可能很快迎来新的优化点。做自托管 LLM 推理的团队,值得第一时间跟进它的 benchmark 和显存收益。原文链接
4. 谷歌推出 Gemini 3.8 Flash / Flash-Lite 文本转语音模型,逐行台词可精确控制。对做语音客服、播客流水线的团队来说,逐行控制语气与停顿意味着更少的后处理脚本。Flash-Lite 的定位也明显是冲着低成本批量调用去的,成本敏感场景可以对比评估。原文链接
5. Anthropic 工程师解释 Claude 写作变差:模型被训练成写给 AI 看而非写给人看。这条对依赖 LLM 输出的自动化流程是个提醒:评估集和 prompt 要随模型行为变化定期复核。别让上游一次对齐调整,悄悄改变了你流水线的输出质量。原文链接
6. rabbit 沉寂许久后发布 OS3 智能体操作系统,支持多设备编排。智能体从单机走向跨设备编排,是 agent 基础设施化的又一个信号。虽然偏消费级产品,但其任务分发与编排思路,对设计内部自动化平台仍有参考价值。原文链接
7. Grok Bot 上线首月,周用户数突破 40 万。C 端智能体的增长速度再次验证了 agent 入口的流量潜力。对依赖大模型 API 的平台方来说,限流、配额与成本观测体系要提前准备好,不然一次流量高峰就能把账单打穿。原文链接
硬件在涨价、模型在提速,留给运维的时间窗从来都是双向的——扩容前多算一步 TCO,永远比事后救火划算。









