Thinky 发布开源多模态模型 Inkling

Latent Space11 天前

Thinky 推出了新的模型家族 Inkling。这并不是一个宣称全面达到 SOTA 的模型,但从已披露信息看,它定位为一个能力扎实的美国开源权重基线模型。

核心信息

  • Inkling 是一个混合专家(Mixture-of-Experts, MoE)Transformer 模型。
  • 模型规模为 975B 总参数,其中 41B 为激活参数
  • 支持最高 100 万 token 的上下文窗口。
  • 预训练数据规模为 45 万亿 token,覆盖文本、图像、音频和视频。
  • Inkling 原生支持对文本、图像和音频进行推理。
  • 模型通过可控的“思考强度”在成本与性能之间进行平衡。

同步发布 Inkling-Small

除主模型外,Thinky 还分享了 Inkling-Small 的预览版本。

Inkling-Small 是一个更轻量的模型,采用类似训练配方,拥有 12B 激活参数。它的目标是在更低成本和更低延迟下提供较强性能。

值得关注的点

Inkling 的发布重点不只是参数规模,也包括几个对开发者和研究社区有实际意义的方向:

  1. 开放权重
    这使其更适合作为研究、评测和二次开发的基础模型。

  2. 多模态原生能力
    训练数据覆盖文本、图像、音频和视频,模型也被描述为可原生处理文本、图像和音频推理任务。

  3. 超长上下文
    最高 100 万 token 的上下文窗口,适合长文档分析、代码库理解、复杂检索增强生成等场景。

  4. MoE 架构带来的成本控制
    975B 总参数、41B 激活参数的设计,意味着推理时只激活部分专家,从而在模型容量和计算成本之间取得平衡。

小结

Inkling 是 Thinky 首个完整发布的 LLM 家族之一。根据已披露信息,它并未被定位为绝对最强模型,而是一个开放权重、支持多模态与长上下文、并强调成本可控的基础模型系列。对于关注开源大模型、多模态推理和长上下文应用的开发者来说,Inkling 值得继续跟进。

评论

请登录后发表观点

暂无数据