Janas 仓库公开 GPL-3.0 代码、SSD 专家流式加载方案和作者自测。
Janas 在内存受限电脑上从 SSD 流式加载模型专家
2026-09-20前沿观察IGNORE
Janas 是 GPL-3.0 本地推理 runtime，通过从 SSD 流式加载 MoE 专家，让超过系统内存的模型也能运行。仓库声称在 13 个量化模型上显著快于 llama.cpp，但对比均由作者执行，缺少独立质量、稳定性和同硬件评测。
对你意味着什么
SSD 专家流式加载对内存受限设备有吸引力，但作者自测和年轻 runtime 尚不足以支持集成投入。社区热度只作为线索，先等同硬件可复现对比。
前沿观察
公开材料与效果验证，分开看。
已记录的事实是工作及其材料已公开。论文或作者报告的效果不自动等于独立复现。下一步关注可复用代码、任务设置和第三方验证。
证据与关联材料
技术细节与六维评分
| 许可证 | GPL-3.0 |
|---|---|
| 方法 | 从 SSD 流式加载 MoE 专家 |
| 作者声称 | 在 13 个 Q4_K_M 模型上快于 llama.cpp |
| 采用快照 | 复核时 GitHub 286 stars、18 forks；这是会变化的社区信号 |
| 限制 | 没有独立质量、稳定性或同硬件评测 |
| 时间依据 | 仓库创建于 2026-09-20T09:55:09Z |
技术影响 2
工程价值 2
采用信号 2
成熟度 1
验证成本 4
风险 3