NeoMME：高效的多模态原生和多语言编码器

判断

给做跨语言视觉文档检索的团队：若瓶颈是每页索引存储和 GPU 吞吐，应把 NeoMME-Retriever 列为候选，而不是先套生成式视觉语言模型；260M 版在 L40S 上约 51 页/秒，但材料只公布到 800M，更大规模是否继续划算要自测。

依据

Hugging Face 文章由 Tony Wu 和 Aurélien Lac 在 9月3日发布，称 NeoMME 是 260M 与 800M 的多语言多模态编码器。机制上，它不接预训练视觉塔，也不用因果语言模型；视觉语言模型（VLM）通常先由独立视觉编码器出特征，再经投影器送进因果解码器，而 NeoMME 让文本 token 和 32×32 图像 patch 进入同一个双向 Transformer，用离散掩码扩散目标（masked discrete-diffusion objective）从零训练。检索端 NeoMME-Retriever 按 ColPali 的页面图像方法微调，一次前向同时返回 dense（稠密向量）和 late-interaction（后期交互）嵌入。对照数字：在 NVIDIA L40S 上以 2048×2048 输入，260M 版约 51 页/秒，约为 ColModernVBERT 吞吐的两倍；层次 token pooling 与非对称量化把 late-interaction 索引从约 1.5 MB/页压到 6 kB/页，缩小 255 倍，并保留超过 95% 的基线（baseline）nDCG@10（排序质量指标）。