AI & ML Research 24 Hours

最后更新: September 5, 2026, 6:09 AM ET

AI与机器学习研究

随着推理工作负载超越训练，内存和存储架构被迫演进，麻省理工科技评论审视了系统如何必须优先考虑实时AI应用（如医疗保健分析）的低延迟数据访问，从而摆脱传统的存储层级结构。与此同时，运行这些工作负载的成本正在推动实验层面的优化。对于处理成本超过对照组的A/B测试，默认的50/50分配并非最优，基于成本的抽样权重可以在保持统计功效的同时降低支出。

LLM服务基础设施也需要谨慎的权衡。将预填充与解码分离仅在约一千个GPU规模时才划算，并且需要满足三个特定条件；低于该阈值时，分块预填充仍然是更高效的默认选择。在开发者方面，Microsoft Fabric取代Power BI Premium带来了重大的工作流程变化。一份面向Power BI开发者的生存指南详细说明了哪些内容发生了变化，哪些保持不变，并提供了前进的道路。

实际的资源限制正在推动巧妙的变通方案。开发者现在可以通过轻量级编排，在无需昂贵硬件的情况下运行10个以上并行的Claude Code会话，此处对此进行了解释。最后，一个更广泛的趋势正在浮现：来自乌克兰的战场无人机数据正在为数据卖家创造一个新市场，而AI模型本身也在重塑语言——这两股力量对数据的生产和消费方式具有长期影响。