研究 Aleph Alpha03/10/2026 在德国统一纪念日，我们推出全新模型：Kolibri。Kolibri 是一种英文-德文混合专家变换器（Mixture-of-Experts Transformer），拥有 780亿 个总参数，30亿 个活跃参数。它支持最长 100万 个token的上下文长度。该模型可通过 Hugging Face 下载完整权重，并在 Apache 2.0 许可条款下使用。
Kolibri 是我们持续迭代模型训练努力的结果。我们首先构建了模型训练管道，并通过构建 Kolibri Origin 来进行验证，这是一个总参数 30亿、活跃参数 30亿 的模型，拥有更短的 6.5万 个token的上下文窗口。Kolibri 经过相同的管道运行：从数据摄取和 curated 处理，到 ablation 实验、预训练和后训练，再到最终评估。
我们针对性能在广泛领域进行优化，考虑到这些领域特有的领域特定语言、监管和程序现实。其小巧高效的规模为我们的客户提供了灵活性，能够在本地高效运行，而无需将内部数据发送到第三方推理服务。
关键实体：公司：Aleph Alpha
常见问题：Kolibri 的关键规格是什么？
Kolibri 是一种英文-德文混合专家变换器，拥有780亿总参数和30亿活跃参数，支持最长100万个token的上下文长度。可在 Apache 2.0 许可下从 Hugging Face 下载完整权重。
来源: Hacker News · 由HeadlinesBriefing整理摘要