今日摘要

  • vLLM 0.32 收紧生产服务默认值:CORS、多模态缓存和输入边界更安全,但 Python 3.10、Responses 流式事件与多项依赖发生不兼容变化。
  • LiteLLM 1.106 默认关闭 stdio MCP:远程 MCP 的 issuer、凭据和配置加密继续加强;依赖本地 stdio 的现有部署需要显式迁移。
  • 腾讯公开专用 agent 记忆写入模型:Hy-Memory-30B-A3B 提供 Apache-2.0 权重与评测工具,作者子样本显示小模型可接近前沿通用模型。
  • Ling-3.1-flash 公开 MIT 权重:560B 总参数、25B 激活参数并提供 serving 配方;1M 上下文和 coding 成绩仍缺公开 harness 复现。
  • H2O-Lightning-4B 用一次前向计算做结构化决策:v1.3.1 加入双向读取,但新版未重跑私有榜,不能直接继承 v1.1 的排名。

模型

  • Ling-3.1-flash(新 / WATCH):公开 MIT FP8 权重和 SGLang、vLLM 配方。模型卡称支持 1M 上下文,但仓库 config 是 262,144,且 LingCode harness 尚未公开;这里的难点是“架构设计上限”不等于当前部署已验证的长度。模型卡
  • Grok Voice 3.0(新 / TRIAL):已在 Voice Agent API 中 GA,价格维持每分钟 0.08 美元。grok-voice-latest 会自动切换到 3.0,生产环境应锁定版本再回归口音、中断、工具调用和转人工。公告
  • H2O-Lightning-4B(新 / TRIAL):用一个输出 token 返回 choice、yes/no 或 score 的概率。所谓“校准”是让 80% 置信度大致对应 80% 命中率;难点是旧版榜单第一不能证明新版权重也第一。模型卡

Agent 与 AI 工程

  • Hy-Memory-30B-A3B(新 / TRIAL):30B 总参数、约 3B 激活参数,专门决定长期记忆该写什么、如何更新。作者只在固定 20% 样本上等权汇总六项指标,自己的记忆增长与冲突率仍需复测。模型卡 · 代码
  • LiteLLM 1.106(更新 / TRIAL):默认关闭 stdio MCP,并加强 OAuth issuer 绑定、远程凭据隔离、配置加密和 workload identity。issuer 绑定就是只接受由预期身份提供方签发的 client;难点是安全默认值会改变原有本地工具连接。稳定版

开源

Ling-3.1-flash、Hy-Memory 与 H2O-Lightning 都提供可下载权重和运行路径,但证据层级不同:前两者的核心成绩主要来自作者,H2O 的外部榜单又对应旧版权重。可下载不等于新版本结论已经复现。

  • Indra OCR(新 / TRIAL):约 18 MB 的 ONNX 模型包可在 CPU 上把 PDF 转为 Markdown 或带坐标 JSON。作者报告 4 个 x86 vCPU 上约 230 毫秒/页;复杂表格、手写、低质扫描与 modified OpenRAIL-M 商业限制仍要实测。模型卡

研究

Hy-Memory 的价值在于把记忆写入从通用模型调用拆成专用模型。它已公开论文、代码和工具,适合做同数据、同检索、只替换 writer 的对照试验;暂时不应把作者的等权平均分当作所有记忆场景的统一准确率。

开发者工具

  • Littleguys 0.2(更新 / TRIAL):增加 Claude Code 实时会话、审批、文件与 diff 展示,并用 Noise IK 构建局域网或 Tailscale 手机桥接。本轮没有找到独立安全审计,远程控制应先在隔离账号验证密钥撤销和断连恢复。发布
  • Sphinx 0.1(新 / IGNORE):在 Git push 前用另一个模型考用户是否理解 diff,但允许 skip 和关闭,代码还会发送给 reviewer provider。项目自己明确它不是安全闸门,当前不应加入强制流程。仓库

基础设施

  • vLLM 0.32(更新 / ADOPT):默认收紧 CORS,签名多模态缓存句柄,并限制图片与 JSON Schema 输入;同时扩展低精度 KV 缓存。低精度 KV 缓存会用更少位数保存注意力历史,难点是省显存可能换来精度或吞吐变化,必须按真实请求回归。稳定版

商业与政策

本轮没有发现达到入库门槛的新政策或重大综合新闻。

趋势信号

  • 趋势 #1:Ling-3.1-flash 增加 MIT 权重与 serving 配方,但 coding harness 与 1M 上下文复现仍缺;strengthening / Medium 不变。
  • 趋势 #2:LiteLLM 1.106 默认关闭 stdio MCP,并加强 issuer 与凭据隔离;emerging / Medium 不变。
  • 趋势 #3:Littleguys 0.2 把 Claude Code 会话、审批与远程控制汇入统一控制面;established / High 不变。
  • 趋势 #7:vLLM 与 LiteLLM 同日收紧服务和 MCP 默认边界,继续支持 runtime 控制分层;strengthening / Medium 不变。
  • 本周期没有发现证据充分的新趋势。

技术雷达

  • vLLM 0.32(open-source / ADOPT):安全默认值和推理路径都发生变化,应分阶段升级并回归兼容性。
  • LiteLLM 1.106(ai-engineering / TRIAL):MCP 身份边界更稳,但 stdio 默认关闭会影响现有部署。
  • Littleguys(developer-tools / TRIAL):远程监督能力增强,同时扩大审批和密钥边界。
  • 新 · Ling-3.1-flash(foundation-model / WATCH):权重可用,但关键长上下文与 coding 结论仍缺复现。
  • 新 · Grok Voice 3.0(foundation-model / TRIAL):API 已 GA,先锁定版本回放真实语音流程。
  • 新 · Hy-Memory-30B-A3B(ai-agent / TRIAL):公开材料足以做一天 writer 对照试验。
  • 新 · H2O-Lightning-4B(foundation-model / TRIAL):一次前向决策值得测,榜单证据不能跨版本沿用。
  • 新 · Indra OCR(open-source / TRIAL):CPU 文档解析路径可实测,先核对真实 PDF 与许可。
  • 新 · Sphinx(developer-tools / IGNORE):可绕过且没有独立证据,不作为安全或质量闸门。

当前雷达:ADOPT 9 / TRIAL 131 / WATCH 57 / IGNORE 8。完整当前雷达以站点洞察页为准。

值得一试

  • 在 canary 升级 vLLM 0.32,回归 CORS、图片输入、Responses streaming 和真实吞吐。
  • 用 held-out 对话日志比较 Hy-Memory 与现有 writer,记录回答正确率、记忆增长和冲突率。
  • 用真实路由集比较 H2O-Lightning、当前规则和生成模型的校准误差、延迟与成本。

来源

覆盖说明:36/36 个固定入口抓取并读完;主动检索补充了中文一手材料、小团队、开放权重、研究、基础设施与政策,并完成到期复核、7 日补漏与召回自检。Grok Voice 只有日期精度;模型 benchmark 多为作者自报。Step 5 Preview 无法把旧权重发布时间与本周文档变化可靠分开,FLUX 3 Klein 仍有自动门禁和许可边界,因此本轮暂缓。召回自检另补录 Indra OCR,并把热门但可绕过的 Sphinx 0.1 明确标为 IGNORE。本轮未发现达到例外门槛的综合新闻。