第 122 期 · 自托管 AI

与其在 ChatGPT、Claude、Gemini 之间来回跳，不如自己搭一个统一面板：LibreChat

你有没有过这种时刻——同时开着三四个 AI 网页，同一个问题要在不同模型间复制粘贴比对；想让 AI 记住你的资料、跑段代码、调个工具，却处处受限于各家的网页边界。LibreChat 的核心判断是：把主流模型、Agent、代码解释器、文件对话全部收进一个你自己托管的界面，数据和控制权留在你这边，而不是锁在某家 SaaS 里。

它到底做什么

LibreChat 是一个自托管的 AI 聊天平台（TypeScript / Node.js，MIT 许可），把 Anthropic、OpenAI、Google、Azure、AWS Bedrock、Groq、DeepSeek、Ollama 等主流模型统一到一个界面里。它不只是个聊天壳：内置 Agents 与 MCP 支持、Skills、Code Interpreter（沙盒里跑 Python / Node / Go / C++ 等）、Artifacts 直接生成 React / HTML / Mermaid、图像生成、多用户与基于浏览器的 Admin Panel，以及企业级的 OAuth2 / LDAP / 邮箱登录。一句话——用一家自托管的面板，管住你所有的模型和工作流。

怎么用

官方推荐 Docker 一键起（命令逐字取自官方安装文档）：

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -d

默认 .env 即可跑起一个基础实例。启动后浏览器打开 http://localhost:3080，注册的第一个账号即为管理员；MongoDB、MeiliSearch、RAG API 会随容器自动拉起。更新时先 docker compose down，再 git pull、docker compose pull 后重新 docker compose up。

优点和缺点

优点：

  • 许可证是 MIT：可商用、可改、可闭源再分发，没有 AGPL 那种「联网就要开源」的枷锁，做私有部署心里踏实。
  • 统一入口：多家模型一站切换，告别多标签页割裂与重复登录。
  • 数据自持：对话、文件、配置都在你自己的服务器，不进第三方云。
  • 功能完整：Agent、MCP、Code Interpreter、多用户与 Admin Panel 开箱即有。

缺点与风险（重点）：

  • 不是免费午餐：模型本身要自带 API key（OpenAI / Anthropic 等），LibreChat 只管界面和编排，不送任何额度。
  • 资源占用不轻：一条 docker compose 同时拉起 MongoDB、MeiliSearch、RAG API 等多个容器，小内存机器会喘。
  • Apple Silicon 暗坑：M1–M4 的 Mac 不支持 AVX，默认 MongoDB 镜像会直接崩溃起不来。必须加 docker-compose.override.yml 把 mongodb 换成 mongo:4.4.18 才能跑——这点和你手里这台 M4 直接相关。
  • 部署有门槛：虽然「一键」docker 能起，但要把各家 key、反向代理、鉴权都配明白，文档仍要读不少。

最终能达到什么效果

适合谁：想统一多家模型、重视数据自持、愿意花一晚上配 Docker 的开发者或小团队。

不适合谁：只想点开就聊、不愿折腾 API key 和容器、机器内存吃紧的人。

三个坑：① 先备好至少一个模型的 API key；② M 系列 Mac 务必加 mongo 覆盖再起；③ 默认 .env 仅基础可用，生产环境要补鉴权与反向代理。

下期预告：把本地模型接进 LibreChat——用 Ollama 接一个完全离线、不花 API 钱的聊天面板。

数据脚注：仓库 github.com/danny-avila/LibreChat；许可证 MIT；安装命令逐字取自官方 Docker 安装文档（README 所链接）；M 系列 Mac 的 MongoDB AVX 限制与 mongo:4.4.18 覆盖方案来自官方 Docker 文档；本文未做实测运行，实际以官方文档为准。抓取时间 2026-09-15。