Giao diện trò chuyện

Giao diện chat mã nguồn mở với hỗ trợ công cụ, đầu vào đa phương thức và định tuyến thông minh giữa các mô hình. Ứng dụng sử dụng MongoDB và SvelteKit ở phía sau. Hãy thử phiên bản trực tiếp có tên HuggingChat trên hf.co/chat hoặc tự cài đặt một instance.

Chat UI kết nối với bất kỳ điểm cuối API tương thích OpenAI nào, cho phép nó hoạt động với:

• Nhà cung cấp suy luận Hugging Face
• Ollama
• llama.cpp
• OpenRouter
• Bất kỳ dịch vụ nào khác tương thích với OpenAI

Công cụ MCP: Gọi hàm thông qua các máy chủ Model Context Protocol (MCP)

LLM Router: Định tuyến thông minh để chọn mô hình tốt nhất cho mỗi yêu cầu

Đa phương thức: Tải lên hình ảnh trên các mô hình hỗ trợ thị giác

OpenID: Xác thực người dùng tùy chọn qua OpenID Connect

Bắt đầu nhanh

Bước 1 - Tạo .env.local:

OPENAI_BASE_URL=https://huggingface.co/proxy/router.huggingface.co/v1
OPENAI_API_KEY=hf_************************

Bạn có thể sử dụng bất kỳ endpoint nào tương thích với OpenAI:

Bước 2 - Cài đặt và chạy:

git clone https://github.com/huggingface/chat-ui
cd chat-ui
npm install
npm run dev -- --open

Xong rồi! Chat UI sẽ tự động phát hiện các model khả dụng từ endpoint của bạn.

MongoDB là tùy chọn cho việc phát triển. Khi MONGODB_URL không được đặt, Chat UI sẽ sử dụng cơ sở dữ liệu nhúng được lưu trữ tại ./db.

Đối với triển khai trong môi trường sản xuất, hãy xem các hướng dẫn cài đặt.