Inkling 2 Small 已能调用,但开放权重还要等
Inkling 2 Small 已经能通过托管服务推理和微调,但现在还不能下载它的权重。Thinking Machines Lab 在 11 月 5 日发布这款模型时说,计划在外部安全测试和红队评估完成后,于下周以 Apache 2.0 许可开放完整权重;这仍是计划,不能当成已经发布。
模型采用 MoE 架构,公布的参数规模是总计 5940 亿、每次激活约 170 亿。它支持图片输入和可调推理强度,暂不支持音频。名字里虽然有 Small,也不能仅凭“激活 170 亿参数”就推断完整模型的权重存储需求或能否在某张显卡上运行;实际部署还要看发布时提供的格式、精度和推理配置。
当前可用的是 Tinker 的推理和微调,以及面向交互使用的 Playground。发布方说,可下载的检查点要等权重发布后才会提供;未来几周还计划扩展到其他平台。对于需要本地部署或检查许可的团队,现在更准确的状态是“先有托管访问,权重和最终发布安排待确认”。
能力方面,发布方展示了编程、视觉理解和多步任务评估,也披露模型有时会选错工具、回答组织不够简洁。评测结果取决于任务、运行配置和比较对象,不能据此保证它适合自己的代码库。以上为发布方公布的信息,没有做本地运行或独立性能测试。