RAG giúp trợ lý AI tra cứu tài liệu riêng của doanh nghiệp trước khi trả lời, thay vì chỉ dựa trên kiến thức chung của mô hình. Giá trị nằm ở nguồn có thể kiểm chứng, quyền truy cập và phiên bản tài liệu; không chỉ ở việc kết nối một cơ sở dữ liệu vector.
RAG hoạt động như thế nào?
Quy trình cơ bản gồm: gom tài liệu, làm sạch, chia nhỏ nội dung, tạo embedding, lưu vào vector database, truy xuất đoạn liên quan khi người dùng hỏi, rồi để model tạo câu trả lời kèm nguồn. Điều quan trọng là chất lượng tài liệu và quyền truy cập.
Use case RAG cho SME
RAG phù hợp với câu hỏi có đáp án nằm trong tài liệu đã duyệt, như điều kiện nghỉ phép, phạm vi bảo hành hoặc thông số sản phẩm. Mỗi trợ lý cần giới hạn kho nguồn và vai trò người hỏi; không nên gộp tài liệu nhân sự, giá bán và hợp đồng vào một vùng truy xuất chung.
| Câu hỏi kiểm thử | Nguồn phải truy xuất | Hành vi được chấp nhận |
|---|---|---|
| Nhân viên hỏi nghỉ phép | Chính sách nhân sự còn hiệu lực | Trả lời kèm điều khoản và phiên bản |
| Sales hỏi cấu hình sản phẩm | Catalog đã duyệt | Nêu đúng mã và đơn vị |
| Người dùng hỏi bảng lương quản lý | Nguồn ngoài quyền đọc | Từ chối và không tiết lộ đoạn trích |
| Hai chính sách mâu thuẫn | Danh mục phiên bản | Báo xung đột để chủ tài liệu xử lý |
- Trợ lý HR trả lời policy nghỉ phép, onboarding, quy định nội bộ.
- Trợ lý CSKH tra FAQ, chính sách bảo hành, hướng dẫn sản phẩm.
- Trợ lý sales tra catalog, case study, bảng giá đã duyệt.
- Trợ lý đào tạo trả lời từ giáo trình và tài liệu nội bộ.
- Trợ lý vận hành tra SOP và checklist theo từng phòng ban.
RAG không tự động làm dữ liệu đúng
Nếu tài liệu nội bộ sai, cũ hoặc mâu thuẫn, RAG vẫn có thể trả lời sai. Vì vậy, bước quan trọng nhất là chuẩn hóa nguồn: tài liệu nào được phép dùng, ai chịu trách nhiệm cập nhật, phiên bản nào là mới nhất và tài liệu nào cần giới hạn quyền xem.
RAG tốt bắt đầu từ governance tài liệu tốt. AI không thể sửa một knowledge base lộn xộn nếu doanh nghiệp chưa có owner dữ liệu.
RAG tốt cần content governance, không chỉ vector database
Nhiều doanh nghiệp nghĩ RAG là bài toán kỹ thuật: embedding, vector database, retrieval. Nhưng yếu tố quyết định lại là content governance. Tài liệu nào được đưa vào, ai duyệt, phiên bản nào mới nhất, tài liệu nào chỉ dành cho quản lý và khi nào tài liệu hết hạn.
Nếu không có quy trình này, RAG có thể trả lời từ tài liệu cũ hoặc không đúng quyền truy cập.
Quy trình xây trợ lý AI nội bộ
Xây trợ lý RAG bắt đầu bằng danh mục tài liệu và bộ câu hỏi kiểm thử, không phải lựa chọn cơ sở dữ liệu vector. Sau khi xác nhận nguồn đúng và quyền đọc, đội triển khai mới chia đoạn, lập chỉ mục, truy xuất và đánh giá câu trả lời theo từng nhóm người dùng.
- Inventory: lập danh sách tài liệu hiện có theo phòng ban.
- Clean: loại bỏ tài liệu trùng, cũ, mâu thuẫn hoặc chưa được duyệt.
- Structure: chia tài liệu theo chủ đề, vai trò và quyền truy cập.
- Retrieve: thiết kế cách AI tìm đoạn liên quan và hiển thị nguồn.
- Evaluate: test bằng bộ câu hỏi thật từ nhân viên.
- Improve: cập nhật tài liệu và prompt dựa trên câu hỏi không trả lời được.
Bộ câu hỏi test RAG nên có
Doanh nghiệp nên tạo 50-100 câu hỏi đại diện trước khi go-live. Bao gồm câu hỏi dễ, câu hỏi mơ hồ, câu hỏi cần nhiều tài liệu, câu hỏi ngoài phạm vi, câu hỏi nhạy cảm và câu hỏi theo từng vai trò. Nếu AI không biết từ chối khi thiếu nguồn, hệ thống chưa sẵn sàng.
KPI sau khi triển khai RAG
KPI gồm tỷ lệ câu hỏi trả lời đúng có nguồn, tỷ lệ câu hỏi ngoài phạm vi được từ chối đúng, thời gian tìm tài liệu giảm, số ticket nội bộ giảm, số tài liệu cần cập nhật và mức độ hài lòng của nhân viên. Đây là cách biến RAG thành công cụ vận hành thay vì demo kỹ thuật.
RAG là nền tảng tốt cho Knowledge Base AI và AI Agent nội bộ. DNAI có thể hỗ trợ thiết kế pilot RAG qua tư vấn AI Đà Nẵng.
Dựa trên [CÂU HỎI], [VAI TRÒ NGƯỜI HỎI] và [ĐOẠN NGUỒN ĐƯỢC PHÉP], trả lời kèm mã tài liệu, phiên bản và đoạn dẫn chứng. Nếu nguồn thiếu hoặc mâu thuẫn, ghi rõ chưa đủ căn cứ. Không suy đoán quyền nghỉ phép, giá hay điều khoản từ kiến thức chung.
Đi xuyên một truy vấn chính sách nghỉ phép
Đây là tình huống giả định để thực hành, không phải dữ liệu khách hàng của DNAI Academy. Bộ phận nhân sự muốn trợ lý trả lời câu hỏi về phép năm nhưng đang có cả quy định cũ và bản sửa đổi. Người phụ trách không tải cả thư mục lên ngay. Họ lập danh mục từng tài liệu, ghi ngày hiệu lực, người phê duyệt, đối tượng áp dụng và đường dẫn bản gốc để có thể giải thích vì sao một nguồn được chọn.
Trước khi lập chỉ mục, tách phần định nghĩa chung khỏi bảng quyền lợi theo nhóm nhân viên. Mỗi đoạn cần giữ tiêu đề cha và điều kiện áp dụng; nếu chia giữa câu hoặc tách bảng khỏi chú thích, truy xuất có thể tìm đúng từ khóa nhưng làm mất ngoại lệ. Những tài liệu chưa có xác nhận hiệu lực được đưa vào hàng chờ rà soát, không dùng làm căn cứ trả lời chính thức.
Khi người dùng hỏi cách xin nghỉ, hệ thống xác thực vai trò ở ứng dụng trước, rồi mới lọc tài liệu được phép truy xuất. Không giao cho mô hình tự quyết ai được xem nguồn nào chỉ dựa trên câu người dùng tự khai. Metadata phân quyền cần được áp dụng tại truy vấn kho tài liệu và được kiểm tra lại trước khi trả đoạn nguồn cho mô hình ngôn ngữ.
Thử câu hỏi thiếu bối cảnh như “tôi còn bao nhiêu ngày phép”. Quy định chung không chứa số dư cá nhân nên trợ lý cần phân biệt hướng dẫn chính sách với tra cứu giao dịch. Nếu chưa có kết nối được cấp quyền tới hệ thống nhân sự, câu trả lời chỉ hướng dẫn nơi kiểm tra số dư. Không lấy một ví dụ trong quy định để suy ra quyền lợi của người đang hỏi.
Người kiểm thử đối chiếu từng câu trả lời với nguồn, ghi riêng lỗi tìm không ra tài liệu và lỗi diễn giải sai tài liệu đã tìm thấy. Hai lỗi này cần cách sửa khác nhau: lỗi đầu có thể liên quan chia đoạn hoặc từ đồng nghĩa; lỗi sau có thể do thiếu điều kiện trong prompt hoặc ngữ cảnh bị cắt. Thay mô hình ngay không giúp biết chính xác tầng nào gây lỗi.
Khi chính sách thay đổi, chủ tài liệu duyệt bản mới, thu hồi đoạn cũ và chạy lại câu hỏi hồi quy. Nhật ký chỉ lưu thông tin cần cho điều tra, tránh lưu nguyên dữ liệu nhân sự nhạy cảm. Bàn giao phải kèm cách tạm tắt câu trả lời theo chủ đề nếu nguồn chưa cập nhật, để nhân viên vẫn được hướng tới người phụ trách thay vì nhận một hướng dẫn có vẻ chắc chắn nhưng đã hết hiệu lực.
Bước tiếp theo
Nếu doanh nghiệp muốn xây trợ lý AI nội bộ, DNAI có thể hỗ trợ tư vấn AI Đà Nẵng, thiết kế knowledge base và triển khai RAG qua triển khai AI cho doanh nghiệp.
Câu hỏi thường gặp
- RAG là gì?
- RAG là cách kết hợp truy xuất tài liệu với sinh câu trả lời. Hệ thống tìm các đoạn nguồn liên quan rồi đưa chúng vào ngữ cảnh cho mô hình. Câu trả lời vẫn cần kiểm tra dẫn chứng, phiên bản và quyền đọc; có tài liệu tham chiếu không đồng nghĩa mọi kết luận đều chính xác.
- RAG có cần fine-tuning không?
- Không bắt buộc. RAG giải quyết việc cung cấp nguồn kiến thức có thể cập nhật, còn fine-tuning thường điều chỉnh hành vi hoặc kiểu đầu ra của mô hình. Hãy kiểm tra chất lượng tài liệu, truy xuất và bộ đánh giá trước khi cân nhắc huấn luyện bổ sung; chi phí phụ thuộc kiến trúc và khối lượng sử dụng.
- Tài liệu nào phù hợp để làm RAG?
- Ưu tiên SOP, chính sách, catalog, hướng dẫn đào tạo và câu trả lời đã được duyệt, có người chịu trách nhiệm cập nhật. Hợp đồng mẫu chỉ nên đưa vào khi quyền sử dụng rõ ràng. Loại bản trùng, bản hết hiệu lực và thông tin định danh không cần thiết trước khi chia đoạn hoặc tạo embedding.
Chia sẻ bài viết
