聊天界面
一个开源聊天界面,支持工具、多模态输入以及跨模型智能路由。该应用底层使用 MongoDB 和 SvelteKit。您可以试用名为 HuggingChat on hf.co/chat 的在线版本,或 自行部署一个实例。
Chat UI 可连接到任何兼容 OpenAI 的 API 端点,因此适用于:
- Hugging Face 推理提供商
- Ollama
- llama.cpp
- OpenRouter
- 任何其他 OpenAI 兼容服务
MCP 工具:通过 Model Context Protocol (MCP) 服务器进行函数调用
LLM Router:智能路由,为每个请求选择最佳模型
多模态:在支持视觉的模型上上传图片
OpenID:通过 OpenID Connect 进行可选的用户身份验证
快速入门
步骤 1 - 创建 .env.local:
OPENAI_BASE_URL=https://huggingface.co/proxy/router.huggingface.co/v1
OPENAI_API_KEY=hf_************************您可以使用任何兼容 OpenAI 的端点:
| 提供商 | OPENAI_BASE_URL | OPENAI_API_KEY |
|---|---|---|
| Hugging Face | https://huggingface.co/proxy/router.huggingface.co/v1 | hf_xxx |
| Ollama | http://127.0.0.1:11434/v1 | ollama |
| llama.cpp | http://127.0.0.1:8080/v1 | sk-local |
| OpenRouter | https://openrouter.ai/api/v1 | sk-or-v1-xxx |
第 2 步 - 安装并运行:
git clone https://github.com/huggingface/chat-ui
cd chat-ui
npm install
npm run dev -- --open就是这样!Chat UI 会自动从您的端点发现可用的模型。
MongoDB 在开发过程中是可选的。如果未设置
MONGODB_URL,Chat UI 将使用一个嵌入式数据库,并将数据持久化到./db。
有关生产环境部署,请参阅安装指南。
Update on GitHub