RAG cho trợ lý kỹ thuật: từ tài liệu gốc đến câu trả lời có thể kiểm chứng

RAG là gì và vì sao trợ lý kỹ thuật cần nó?

Retrieval-Augmented Generation là kiến trúc kết hợp mô hình ngôn ngữ với một kho tri thức bên ngoài. Thay vì chỉ trả lời từ thông tin đã được nén trong tham số lúc huấn luyện, hệ thống tìm các đoạn tài liệu liên quan tới câu hỏi rồi đưa chúng vào ngữ cảnh để mô hình tạo câu trả lời. Kho tài liệu có thể cập nhật độc lập, lưu nội dung nội bộ và cung cấp bằng chứng để người dùng kiểm tra.

Trong sửa chữa thiết bị vô tuyến, một câu hỏi thường phụ thuộc đúng model, phiên bản, trạng thái đèn, phép đo và trình tự thao tác. LLM thuần có thể tạo câu trả lời trôi chảy nhưng trộn thông tin giữa thiết bị. RAG giúp ràng buộc câu trả lời vào sổ tay, sơ đồ, bảng lỗi và quy trình đã phê duyệt; khi không tìm thấy bằng chứng đủ mạnh, hệ thống có thể yêu cầu bổ sung dữ kiện thay vì đoán.

Nguyên lý truy hồi và sinh câu trả lời

Tài liệu được tách thành các đơn vị có nghĩa rồi biến thành vector embedding. Câu hỏi cũng được mã hóa thành vector; phép đo cosine hoặc dot product tìm các đoạn gần nhất trong không gian ngữ nghĩa. Tìm kiếm từ khóa như BM25 vẫn hữu ích cho mã linh kiện, ký hiệu TP, thông báo lỗi và con số. Hybrid retrieval kết hợp hai kết quả rồi reranker sắp xếp lại theo mức phù hợp với câu hỏi đầy đủ.

Các đoạn được chọn cùng metadata, câu hỏi và chỉ dẫn trả lời được ghép thành prompt. LLM tổng hợp câu trả lời nhưng phải giữ liên kết tới nguồn. RAG không tự bảo đảm tính đúng: nếu chunk mất tiêu đề, retrieval lấy sai model hoặc prompt cho phép suy diễn quá xa, mô hình vẫn trả lời sai. Vì vậy chất lượng phụ thuộc đồng thời vào chuẩn hóa tài liệu, chỉ mục, bộ truy hồi, reranker và quy tắc sinh.

Một pipeline RAG kỹ thuật hoạt động như thế nào?

Ở giai đoạn nhập liệu, hệ thống đọc PDF, DOCX, YAML hoặc Markdown; khôi phục cấu trúc chương–mục–bảng; gắn model thiết bị, phiên bản, loại nội dung và quyền truy cập. Chunk được tạo theo đơn vị thao tác hoặc khối chức năng, có một phần chồng lấp nhưng không cắt rời điều kiện với kết quả. Sau khi embedding và lập chỉ mục, mỗi tài liệu được lưu hash để chỉ cập nhật phần thay đổi.

Khi nhận câu hỏi, hệ thống chuẩn hóa thuật ngữ, nhận diện model và ý định, truy hồi nhiều kênh, lọc bằng metadata rồi rerank. Một bộ kiểm tra bằng chứng đánh giá độ phủ trước khi gọi LLM. Câu trả lời nên theo cấu trúc: nhận định, dữ kiện cần kiểm tra, trình tự thao tác, giá trị kỳ vọng, nhánh xử lý nếu sai và nguồn. Log lưu query, chunk, phiên bản index và model để tái hiện lỗi.

• Ingestion giữ cấu trúc tài liệu và metadata thiết bị.
• Retrieval dùng hybrid search, metadata filter và reranking.
• Generation chỉ sử dụng bằng chứng đã chọn và phải thể hiện nguồn kiểm chứng.

Ứng dụng thực tế và cách đánh giá

RAG phù hợp cho trợ lý khai thác–sửa chữa, hỏi đáp quy chế đào tạo, tra cứu tiêu chuẩn, hướng dẫn thí nghiệm và hỗ trợ cán bộ từ kho văn bản nội bộ. Nó đặc biệt hiệu quả với câu hỏi có điểm neo rõ như tên thiết bị, mã lỗi, thủ tục hoặc mục tài liệu. Các câu hỏi tổng hợp toàn bộ kho có thể cần nhiều bước truy hồi hoặc cấu trúc đồ thị.

Đánh giá phải tách retrieval và generation. Retrieval đo Recall@k, MRR và khả năng lấy đúng đoạn gốc; generation đo faithfulness, tính đầy đủ, tính hành động được và tỷ lệ từ chối đúng khi thiếu dữ liệu. Bộ test nên có câu hỏi đồng nghĩa, câu theo ngữ cảnh hội thoại, model gần tên nhau và câu không có đáp án. Tốc độ chỉ có ý nghĩa sau khi độ chính xác truy hồi đạt yêu cầu.