观点讨论r/selfhosted 每日热门· /u/NicoRulli·· 3 小时前AI 评分20
在 ThinkCentre 迷你主机上自托管 LLM 是否可行?
Self hosted LLM Goals / possible?
AI 导读
一位用户想在 i5/i7、8GB 内存、512GB HDD 的 ThinkCentre 迷你主机上自托管本地 LLM,先小规模学习再考虑升级。其目标包括在 Mac 上通过终端(推测走 Tailscale SSH)调用 LLM、接入 MCP 类工具,以及从同样装了 Tailscale 的 iPhone 访问。该设备目前用作出口节点,并通过 RustDesk 远程访问。
来源:r/selfhosted 每日热门 · reddit.com