Tính năng nền tảng
Trạng thái tính năng đang vận hành. Các giới hạn chưa hỗ trợ được ghi rõ tại từng mục.
API Key quản lý đầy đủ
CRUD, rotate, revoke (60s có hiệu lực), scope theo model và prefix nhận diện. Plaintext hiển thị một lần duy nhất.
Ví credit đa tầng
Tách cash / promo / quota. Promo được trừ trước theo expiry gần nhất. Reservation nguyên tử: khóa allocation từng grant.
Router failover thông minh
Health check + priority/weight + quota group + circuit breaker. Max 2 attempt/deadline chung; retry chỉ khi contract an toàn.
API inference
Chat Completions hỗ trợ văn bản và tool-call trên các luồng đã kiểm tra. stream:true dùng định dạng SSE nhưng nội dung được gửi sau khi model hoàn tất. Anthropic Messages đã dùng tool-call. Responses hiện chỉ phục vụ văn bản không trạng thái trên tuyến Mini tương ứng; Responses tool và hosted tools chưa mở.
Billing chuẩn double-entry
Journal append-only; balance là projection. Correction/refund là bút toán đối ứng — không xóa lịch sử.
Idempotency toàn diện
Scope tenant + endpoint + key + payload fingerprint. Cùng key khác payload → 409. Replay đúng body/content-type.
Usage minh bạch
Mỗi request ghi: model yêu cầu, SKU phục vụ, token input/output/cache, chi phí, latency, số attempt, cache hit, failover.
Prompt cache
Chỉ tính giá cache khi phản hồi usage xác nhận cache hit. Cache ứng dụng chỉ dùng cho yêu cầu exact-match an toàn.
Điều phối kết nối
Yêu cầu trả phí không bị giới hạn RPM, TPM hay số tác vụ đồng thời theo gói. Khi một nguồn hết sức chứa, router thử nguồn dự phòng theo điều kiện an toàn; nhóm Free vẫn có hạn mức dùng thử.
Degraded mode rõ ràng
Redis lỗi: chặn inference mới. PG lỗi: dừng inference + mutation tiền. Webhook không được ACK thành công khi thiếu PG.
Kill-switch
Khóa khẩn cấp theo model, key, tài khoản, thanh toán hoặc chiến dịch. Mọi thao tác quản trị đều được ghi audit.
Tích hợp công cụ
Claude Code, OpenCode, Goose và OpenHands đã qua bài thử CLI dùng tool giới hạn. Mức hỗ trợ từng công cụ và các ngoại lệ được ghi trong hướng dẫn.
Luồng tiền & billing
Trạng thái settlement request
RESERVED → RUNNING → FINALIZED. Thiếu verified usage/timeout → PENDING_RECONCILIATION (đối soát tối đa 24h). Estimated usage không bao giờ trừ tiền khách.