ModelRein
首页 / 问答 / 支持的模型与硬件

ModelRein 支持哪些开源模型、需要多大显卡(6 类适配器 · 40 多个模型)

ModelRein(原名 LMCP)是控制开源基础模型内部的 HTTP 协议与参考服务器:27 个原语、6 类架构适配器;目前通过 Rescot 桌面应用用 SSH 连接你自己的 GPU 服务器来使用(v0.4)。

ModelRein 支持哪些开源模型?

ModelRein 用 6 类适配器覆盖 40 多个开源模型:因果语言模型、UNet 与 DiT 图像扩散、视觉语言模型、音频扩散、视频 DiT(2026-10-09)。

事实项数值性质截至出处
架构适配器6 类:causal_lm、unet、dit、vlm、audio_diffusion、video_dit站内文档2026-10-09about.html
已适配的开源模型40 多个站内文档2026-10-09models.html
适用边界

跑 ModelRein 需要多大显卡?

ModelRein 本身没有硬件下限,取决于加载的模型:0.5B 模型可以用 CPU,1.5B 约需 6 GB 显存,70B 需要 1–2 张 H100;没有 CUDA 时自动退回 CPU(2026-10-09)。

事实项数值性质截至出处
硬件需求随模型变化0.5B 可用 CPU;1.5B 约 6 GB 显存;70B 需 1–2 张 H100;无 CUDA 时退回 CPU站内文档2026-10-09lmcp-quickstart.html
运行要求Python 3.10+;Linux / macOS 13+ / Windows 11;GPU 可选;内存至少 8 GB站内文档2026-10-09lmcp-quickstart.html
适用边界

相关问题

ModelRein 是什么 · 模型控制协议 vs 工具调用协议 · 用 Rescot 连接 GPU 服务器使用 ModelRein · 支持的模型与硬件

每个数字都带截至日期与出处。数据构建于 2026-11-04 · Rescot 桌面应用 · llms.txt · sitemap