动察 Beating AI 快讯，资深芯片设计师及硬件分析人士「Mr. Bubble」在 Frictionless Podcast 采访中表示，AI 算力基础设施的核心瓶颈正从单纯提升芯片算力，转向先进封装、系统互连延迟以及存储层级管理。

Mr. Bubble 认为，先进制程成本快速上升，而晶体管密度提升幅度有限，使传统摩尔定律面临经济性挑战。相比继续缩小制程，行业正更多通过先进封装将多颗芯片连接为一个计算系统。他指出，未来 AI 算力的基本单位可能不再是单颗芯片或服务器，而是完整机架甚至多个机架，PCB、封装和互连能力将成为关键限制因素。

在存储方面，他认为，随着 AI 推理上下文窗口扩大，海量历史上下文不应全部占用昂贵的 HBM，行业可能更多采用闪存卸载，将高频数据留在 HBM，低频上下文迁移至更大容量、更低成本的存储层。他进一步预计，3D DRAM 可能成为下一代内存技术的重要方向。

对于 AI 基础设施投资，Mr. Bubble 认为，随着预填充与解码逐步采用分离式架构，系统级硬件设计的重要性将进一步提升。他还表示，与直接押注大模型公司相比，拥有硬件、封装、存储及其他关键基础设施能力的企业可能在 AI 产业链中扮演更长期的角色。

动察 Beating AI 快讯，研究机构 SemiAnalysis 发布报告，系统拆解大模型推理服务的底层架构。报告认为，随着 MoE 模型成为主流，AI 推理已从单一计算任务演变为由预填充（Prefill）、中间填充（Midfill）、解码注意力（Decode Attention）和解码专家（Decode Experts）组成的复杂流水线，不同阶段对算力、内存带宽和网络的需求存在明显差异。

在多数推理场景下，内存带宽比容量更具经济价值。高带宽内存可提升 Token 生成效率，而闲置的 HBM 只会增加成本。SemiAnalysis 预计，2027 年单个流水线阶段可能需要约 400 至 500GB 本地快速内存，但已完成处理的 KV 缓存应及时迁移至 CPU DRAM 及更低成本的网络存储，避免占用稀缺的 HBM 资源。

调度层将成为 AI 推理基础设施的关键环节。预填充和中间填充的处理时间相对可预测，而解码时长存在较大波动，容易造成任务积压和「延迟反馈震荡」。因此，稳定的缓冲机制、跨时间尺度的调度和 KV 缓存分级管理，将直接影响推理集群的吞吐效率。

在架构选择上，报告比较了聚合式和分离式两种方案：前者将 Prefill 和 Decode 集中在同一设备上，可减少 KV 缓存跨节点传输，但要求硬件同时具备高计算密度和高内存带宽；后者则针对不同阶段配置专用节点，能够实现硬件优化，但会增加数据搬运和网络开销。SemiAnalysis 认为，两种架构的取舍最终取决于未来能否出现兼具高算力和高内存带宽的「全能型」加速器。

报告还通过模拟器预测 Kimi K3 在英伟达 B200、B300 和 GB200 系统上的表现。结果显示，GB200 在部分低延迟场景具备优势，而多数前沿配置的单 GPU HBM 峰值驻留量低于 80GB，进一步凸显内存带宽和存储编排的重要性。

BlockBeats 消息，9 月 22 日，据 Farside 监测，昨日美国现货以太坊 ETF 净流入 2.70 亿美元，已连续两个交易日实现大额净流入。

BlockBeats 消息，9 月 22 日，据 Farside 监测，昨日美国现货比特币 ETF 净流入 9.99 亿美元，已连续三个交易日实现大额净流入。