AI riêng trên máy chủ riêng là một mô hình mở như DeepSeek hay Qwen chạy trong nội bộ doanh nghiệp. Nó đọc tài liệu, trả lời nhân viên, xử lý email và hợp đồng, và không một yêu cầu nào đi ra đám mây của bên khác. Bản thân mô hình miễn phí: bạn trả tiền phần cứng và triển khai, còn dữ liệu ở lại trong nước và trong doanh nghiệp.
Cách hoạt động
Mô hình là một tệp trọng số: hàng tỷ con số ghi lại mọi điều nó đã học. Giấy phép mở, như MIT của DeepSeek V4, cho phép tải tệp này về, chạy trên máy của mình và tích hợp vào sản phẩm của mình. DeepSeek V4 có 1,6 nghìn tỷ tham số, nhưng được tổ chức như một đội chuyên gia: với mỗi từ, chỉ một phần nhỏ của mạng được kích hoạt, nhờ vậy tiết kiệm card đồ họa.
Mô hình chạy trên máy chủ có card đồ họa: trọng số được nạp vào bộ nhớ của card, mô hình càng lớn thì càng cần nhiều card. Với nhiều việc văn phòng, các phiên bản nhỏ hơn là đủ — mô hình mở thường ra mắt với vài kích cỡ, còn việc nén trọng số giảm yêu cầu về bộ nhớ, đổi lại độ chính xác giảm đi chút ít. Chương trình máy chủ nhận câu hỏi của nhân viên từ chat, email hay cổng thông tin nội bộ và trả về câu trả lời.
Để mô hình nắm được công việc của doanh nghiệp, không nhất thiết phải huấn luyện lại. Tài liệu được cắt thành từng đoạn và đưa vào chỉ mục tìm kiếm; khi nhân viên hỏi, hệ thống tìm những đoạn cần thiết và đưa cho mô hình cùng với câu hỏi. Câu trả lời đi kèm liên kết đến nguồn gốc, còn quyền truy cập giống như trong kho lưu trữ tệp: qua mô hình không thể đọc được tài liệu mà nhân viên đó không có quyền xem.
Đã được ứng dụng ở đâu
- Trả lời nhân viên theo quy chế, hướng dẫn và cơ sở tri thức nội bộ.
- Xử lý hợp đồng và email: tóm tắt, thời hạn, rủi ro, bản nháp trả lời.
- Doanh nghiệp có dữ liệu cá nhân và bí mật thương mại: ngân hàng, phòng khám, công nghiệp.
- Nga: phương án mạnh — dữ liệu ở lại trong nước và trong doanh nghiệp.
- Agent và lập trình trên máy chủ riêng, không cần API bên ngoài.
Cần lưu ý
- Mô hình miễn phí, card đồ họa thì không: kích cỡ mô hình theo bài toán quyết định ngân sách.
- Mô hình mở đi sau các mô hình hàng đầu 3–6 tháng — theo ước tính của chính DeepSeek.
- Cần chuyên gia riêng hoặc nhà thầu: cập nhật, giám sát, quyền truy cập, sao lưu.
- Kiểm tra giấy phép của từng mô hình: MIT của DeepSeek V4 cho phép sử dụng thương mại, mô hình khác có điều kiện riêng.