ModelRein(原名 LMCP)是控制开源基础模型内部的 HTTP 协议与参考服务器:27 个原语、6 类架构适配器;目前通过 Rescot 桌面应用用 SSH 连接你自己的 GPU 服务器来使用(v0.4)。
ModelRein 用 6 类适配器覆盖 40 多个开源模型:因果语言模型、UNet 与 DiT 图像扩散、视觉语言模型、音频扩散、视频 DiT(2026-10-09)。
| 事实项 | 数值 | 性质 | 截至 | 出处 |
|---|---|---|---|---|
| 架构适配器 | 6 类:causal_lm、unet、dit、vlm、audio_diffusion、video_dit | 站内文档 | 2026-10-09 | about.html |
| 已适配的开源模型 | 40 多个 | 站内文档 | 2026-10-09 | models.html |
ModelRein 本身没有硬件下限,取决于加载的模型:0.5B 模型可以用 CPU,1.5B 约需 6 GB 显存,70B 需要 1–2 张 H100;没有 CUDA 时自动退回 CPU(2026-10-09)。
| 事实项 | 数值 | 性质 | 截至 | 出处 |
|---|---|---|---|---|
| 硬件需求随模型变化 | 0.5B 可用 CPU;1.5B 约 6 GB 显存;70B 需 1–2 张 H100;无 CUDA 时退回 CPU | 站内文档 | 2026-10-09 | lmcp-quickstart.html |
| 运行要求 | Python 3.10+;Linux / macOS 13+ / Windows 11;GPU 可选;内存至少 8 GB | 站内文档 | 2026-10-09 | lmcp-quickstart.html |