MIT · tự vận hành

Tài liệu

Từ tin nhắn Zalo đến câu trả lời, bạn nhìn thấy agent đi từng bước. Sau docker compose: nền tảng :43173, console :3000.

Tự vận hành

Docker Compose trên infra của bạn.

Console

Cây, kênh, lộ trình, input/output model.

Một lượt

Bot shop Zalo, NLU lệch dấu.

SDK

Package, wrap, observe. FPT, webhook, OTLP.

Overlay

Langfuse OSS và overlay Vết trên cùng một lượt.

Scores

Nhãn chất lượng trên một lượt.

Bạn thấy gì trong console

Console là Langfuse OSS với overlay Vết. Langfuse ghi lần gọi model. Vết ghi cả lộ trình kênh, RAG và tool trên cùng một lượt.

Vết

Danh sách lượt, token, chi phí.

Cây

Chunk, embeddings, retrieval, tool call, rồi input/output OpenAI và Anthropic.

Kênh

Webhook Zalo OA, FPT.AI, Lark, Google Chat. Viettel ASR/TTS đi trên cây Zalo. Teams ghi span qua SDK hoặc OTLP.

Lộ trình

Inbound, RAG, tools, generation, outbound trên một luồng.

LLM

OpenAI, Anthropic, FPT Factory, Bedrock, Vertex, Foundry.

Chạy trên máy bạn

scripts/up.sh gắn overlay Vết, build console, rồi docker compose up. Lần đầu mất vài phút. Chi tiết biến môi trường nằm ở trang Tự vận hành.

git clone --recurse-submodules https://github.com/Dondo0936/langben.git
cd langben
cp .env.console.example .env
bash scripts/up.sh

Nền tảng http://localhost:43173 (Kênh / webhook). Console http://localhost:3000. Tài khoản console và khóa ingest: xem .env.console.example hoặc README.

Hướng dẫn deploy

SDK

Package, wrap, observe, FPT, webhook Zalo, và OTLP nằm ở trang SDK.

Kênh

Dán webhook Zalo OA, FPT.AI, Lark, Google Chat. Chi tiết và curl nằm ở SDK · Kênh.

OTLP

Trỏ exporter vào console :3000. Env vars nằm ở SDK · OTLP.

Giấy phép MIT. Bạn trả infra. Giá tự vận hành · Đơn vị là gì · GitHub Issues