跳到正文

AI工具Simon Willison07:56

推出 Muse Glimmer

Introducing Muse Glimmer

上手成本低,适合快速原型,但官方未披露性能基准。

判断

对内存 32GB 一档的个人开发者,这改变的是「本地 agent 跑不跑」这个决定:18.16 GB 的量化版进得去,剩下的取舍是继续买云端 API 还是把活留在自己机器上。

依据

Simon Willison 说 Meta 重回开放权重(open weights,即权重可下载、自己在本机跑)这条路,Muse Glimmer 是 30B 模型,用干净的 Apache 2.0 开源许可证,比旧版毛病多的 Llama 许可证省事。测试是他自己做的:LM Studio 的 18.16 GB 量化版,配 llm-coding-agent 插件,对一份全新 checkout 的 Datasette 代码库问「how does auth work?」,全程工具调用留了记录;他说选这个尺寸的理由是 32 GB 内存以上的机器跑它还有余量(他的机器是 128GB)。许可证与体积这两项是可核对的,而 DeepSearch QA、MCP-Atlas、τ-Bench、SWE-Bench 上所谓 strong success rates 全是形容词,一个分数都没给。

  • LM Studio 量化版18.16 GB
  • 可跑内存下限32 GB
  • Simon 机器内存128GB
Muse Glimmer 量化版体积、可运行内存门槛与作者机器内存的对照

没写清 材料只写了「strong success rates」这类形容词,没有任何基准分数,也没说对比对象是 30B 同类还是云端大模型,这一块不能替它补上。

下一步 等 Meta 官方模型卡公布 SWE-Bench 的具体分数与评测脚手架,再与这次 Datasette 试跑的工具调用记录对照。

本期其他新闻

  1. 行业动态

    在ChatGPT中测试广告

    OpenAI

  2. 行业动态

    Daybreak 模型现已在 AWS 上可用

    OpenAI

  3. 行业动态

    构建AI原生财务职能教会了我什么

    OpenAI

  4. AI工具

    构建低延迟多语言语音代理:使用 NVIDIA Magpie TTS 实现开放权重与完全部署控制

    Hugging Face

  5. 精选深读

    考虑 ACE?我们可以用更少的令牌完成

    Hugging Face