Bài 07. Kho tri thức: dạy agent tài liệu công ty

Đây là bài biến một trợ lý chung chung thành trợ lý của công ty bạn. Nếu bạn chỉ có thời gian
làm một việc sau khoá học, hãy làm việc này.

Tình huống

Quay lại chị Loan ở bài 05. Chị hỏi về ngày phép của nhân viên thử việc, và agent trả lời theo quy
định chung trên mạng, không phải quy định của công ty chị.

Bài 05 giải quyết bằng cách đính kèm sổ tay nhân sự vào cuộc trò chuyện. Nhưng chị Loan trả lời câu
hỏi kiểu này mười lần một tuần, cho mười câu hỏi khác nhau, và mỗi lần đính lại một tệp 80 trang
là chuyện vô lý.

Kho tri thức là câu trả lời: tải sổ tay lên một lần, và từ đó mọi cuộc trò chuyện của chị đều
tra được, có dẫn nguồn tới đúng trang.

Mục tiêu bài học

• Hiểu cơ chế tra tài liệu, đủ để biết khi nào nó hoạt động tốt và khi nào không
• Tạo được kho tri thức, tải tài liệu, và kiểm nó đã sẵn sàng
• Giới hạn được cuộc trò chuyện vào đúng kho cần thiết
• Đọc và kiểm được trích dẫn
• Biết chia kho thế nào, đặt tên và thẻ thế nào để agent chọn đúng
• Chia sẻ kho cho đồng nghiệp với đúng mức quyền

Phần 1. Cơ chế tra tài liệu, nói cho dễ hiểu

Khi bạn tải một tài liệu lên kho tri thức, hệ thống làm ba việc:

1. Bóc chữ ra khỏi tệp. PDF, Word, Excel, PowerPoint đều được bóc thành văn bản.
2. Chia tài liệu thành các đoạn nhỏ. Một tài liệu 80 trang thành hàng trăm đoạn.
3. Lập chỉ mục theo ý nghĩa. Mỗi đoạn được đánh dấu để sau này tìm được theo nghĩa, không
   chỉ theo từ khoá. Đây là lý do bạn hỏi "nhân viên mới có được nghỉ không" mà nó tìm ra đoạn viết
   "chế độ phép của người lao động trong thời gian thử việc".

Khi bạn hỏi một câu, agent:

1. Xem có những kho nào (và chọn kho phù hợp với câu hỏi)
2. Tìm trong kho đó các đoạn liên quan nhất
3. Đọc các đoạn tìm được
4. Trả lời DỰA TRÊN các đoạn đó, kèm trích dẫn
5. Nếu chưa đủ, mở cả tài liệu để đọc thêm

Ba hệ quả thực tế bạn phải biết:

Hệ quả 1. Nó chỉ tìm được cái có trong tài liệu. Câu hỏi mà tài liệu của bạn không nói tới thì
nó không trả lời được từ kho, và nó sẽ chuyển sang kiến thức chung. Đây là lúc bạn cần câu
"nếu không có thì nói thẳng" của bài 06.

Hệ quả 2. Tài liệu càng có cấu trúc, kết quả càng tốt. Một tài liệu có tiêu đề rõ ràng, chia mục
đàng hoàng sẽ được chia đoạn tốt. Một tệp scan mờ, hoặc một bảng Excel 40 sheet không có tiêu đề
cột, sẽ cho kết quả kém.

Hệ quả 3. Nó tìm theo đoạn, nên câu hỏi cần đối chiếu toàn bộ tài liệu thì khó. Ví dụ "trong
toàn bộ 200 hợp đồng, hợp đồng nào có điều khoản bất thường" không phải việc của kho tri thức. Việc
đó cần cách làm khác (bài 11 và 16).

Phần 2. Tạo kho và tải tài liệu

Mở "Ứng dụng & công cụ" → Kho tri thức.

Bước 1. Tạo kho. Bấm "Kho tri thức mới", đặt tên. Tên phải nói rõ nội dung, vì agent dùng
tên và mô tả để chọn kho khi bạn hỏi.

Bước 2. Thêm thẻ. Ở phần "Thẻ", ngăn cách bằng dấu phẩy: nhân sự, quy định, phép, lương.
Thẻ giúp agent chọn đúng kho khi bạn có nhiều kho.

Bước 3. Tải tài liệu. Chọn kho, bấm "Tải tài liệu". Chọn tệp: PDF, Word, PowerPoint, Excel,
hoặc văn bản (md, txt, json).

Bước 4. Đợi xử lý và kiểm trạng thái. Mỗi tài liệu có một trạng thái:

Đây là chỗ sai phổ biến nhất: người dùng tải tệp lên, hỏi ngay, không thấy nó biết gì, rồi kết
luận "kho tri thức không hoạt động". Thực ra tài liệu còn đang Đang xử lý. Luôn kiểm trạng thái
là Sẵn sàng trước khi hỏi.

Bước 5. Xem trước để kiểm chữ đã bóc đúng. Bấm "Xem trước" trên một tài liệu. Bạn thấy phần
văn bản đã trích. Kiểm nhanh: tiếng Việt có đủ dấu không, bảng số có đọc được không. Nếu phần xem
trước là một đống chữ vô nghĩa hoặc trống, tài liệu đó sẽ không dùng được, dù trạng thái là
"Sẵn sàng".

Phần 3. Chia kho thế nào

Nguyên tắc: một kho cho một chủ đề mà người ta hỏi cùng nhau.

Cách chia tốt cho một công ty:

Sổ tay nhân sự và quy định nội bộ     Nội quy, phép, lương thưởng, quy trình xin nghỉ
Chính sách giá và chiết khấu           Bảng giá, mức chiết khấu, điều kiện áp dụng
Quy trình vận hành                     Các quy trình chuẩn của từng bộ phận
Hồ sơ khách hàng                       Thông tin, hợp đồng, lịch sử giao dịch
Tài liệu sản phẩm                      Tính năng, hướng dẫn sử dụng, câu hỏi thường gặp
Biên bản họp và quyết định             Các quyết định đã chốt, theo thời gian

Cách chia tệ:

• Một kho khổng lồ "Tất cả tài liệu công ty". Agent phải tìm trong quá nhiều thứ không liên
  quan, kết quả loãng.
• Ba mươi kho, mỗi kho một tệp. Agent khó chọn, và bạn khó quản lý.
• Kho theo người ("Tài liệu của Loan"). Sau vài tháng không ai biết trong đó có gì.

Mốc thực dụng: 3 tới 8 kho cho một bộ phận là hợp lý.

Phần 4. Giới hạn cuộc trò chuyện vào kho

Mặc định agent tự chọn kho phù hợp cho từng câu hỏi. Thường là đúng. Nhưng khi bạn làm một việc
mà mọi câu hỏi đều thuộc một chủ đề, hãy giới hạn cho chắc.

1. Trong khung chat, bấm nút "Tri thức" bên trái khung gõ.
2. Hộp "Giới hạn cuộc trò chuyện theo kho tri thức" mở ra.
3. Chọn một hoặc nhiều kho, bấm "Lưu".

Sau đó bạn thấy nhãn "Giới hạn ở" kèm tên kho ở khung chat. Bấm "Bỏ" để trở lại chế độ tự chọn.

Khi nào nên giới hạn:

Bảng bên phải khung chat, mục "Tri thức được kết nối", luôn cho biết cuộc trò chuyện này đang
dựa vào kho nào.

Phần 5. Đọc và kiểm trích dẫn

Khi agent trả lời từ kho tri thức, bạn thấy:

• Nhãn "Đã tìm trong kho tri thức" hoặc "Dựa trên" kèm tên kho, tên tài liệu.
• Các số [1], [2] trong bài, và danh sách tài liệu tham khảo ở cuối.

Quy trình kiểm 60 giây cho một câu trả lời quan trọng:

1. Chọn hai khẳng định quan trọng nhất (thường là hai con số, hoặc hai điều kiện).
2. Xem chúng có số trích dẫn không. Không có thì hỏi lại: "Khẳng định này lấy từ tài liệu nào, mục
   nào?"
3. Vào Kho tri thức, mở tài liệu đó, bấm "Xem trước", tìm đoạn tương ứng.
4. Đối chiếu. Đúng thì dùng. Lệch thì đọc bài 17.

Với tài liệu quan trọng, hãy đưa hẳn yêu cầu này vào câu hỏi:

Trả lời chỉ dựa trên kho tri thức <tên kho>. Với mỗi khẳng định, ghi rõ tên tài liệu và mục.
Nếu tài liệu không nói tới điều gì, ghi rõ "tài liệu không đề cập", đừng suy đoán từ quy định chung.

Phần 6. Chia sẻ kho cho đồng nghiệp

Bấm "Chia sẻ" trên một kho. Bạn chọn:

Và mức quyền: "Được xem" hoặc "Được chỉnh sửa".

Nguyên tắc: mặc định Được xem. Chỉ cho Được chỉnh sửa với người thật sự phụ trách nội dung
kho đó, vì người có quyền sửa thì thêm và xoá tài liệu được, và tài liệu sai trong kho sẽ lan ra
mọi câu trả lời của cả nhóm.

Với dữ liệu nhạy cảm (lương, hồ sơ nhân sự, hợp đồng), đọc bài 18 trước khi chia sẻ.

Làm trên Redstone Agent

Bài thực hành chính, 45 phút. Đây là bài thực hành quan trọng nhất của cả khoá.

Bước 1. Chọn 5 tài liệu thật của bộ phận bạn, cùng một chủ đề. Ưu tiên:

• Tài liệu người ta hay hỏi bạn về nội dung
• Tài liệu có cấu trúc rõ (có mục, có tiêu đề)
• Bản Word hoặc PDF xuất từ máy, không phải ảnh scan

Bước 2. Tạo kho, đặt tên rõ ràng, thêm 4 tới 6 thẻ.

Bước 3. Tải cả 5 tài liệu. Đợi tới khi cả 5 đều là "Sẵn sàng".

Bước 4. Bấm "Xem trước" từng tài liệu, kiểm chữ tiếng Việt và bảng số. Tài liệu nào xem trước
lỗi thì ghi lại, xử lý theo phần "Lỗi thường gặp".

Bước 5. Viết ra 5 câu hỏi mà bạn biết chắc đáp án, và chỉ những tài liệu này mới trả lời được.
Đây là điểm quan trọng: bạn phải biết đáp án đúng trước, để kiểm được nó.

Bước 6. Mở Trò chuyện mới, bấm "Tri thức", giới hạn vào kho vừa tạo. Hỏi cả 5 câu, mỗi câu
kèm yêu cầu trích dẫn:

<câu hỏi của bạn>

Chỉ dựa trên kho tri thức. Ghi rõ tài liệu và mục cho mỗi khẳng định. Nếu tài liệu không đề cập,
nói thẳng là không đề cập.

Bước 7. Chấm điểm:

Bước 8. Với những câu chưa đạt, tìm nguyên nhân theo thứ tự:

• Tài liệu chứa đáp án có trạng thái "Sẵn sàng" chưa?
• "Xem trước" tài liệu đó, đoạn chứa đáp án có xuất hiện trong phần văn bản đã bóc không?
• Câu hỏi của bạn có dùng từ ngữ khác hoàn toàn với tài liệu không? Thử hỏi lại bằng từ ngữ gần
  với tài liệu hơn.

Bước 9. Hỏi thêm một câu cố tình ngoài phạm vi tài liệu:

<câu hỏi mà tài liệu chắc chắn không có>

Chỉ dựa trên kho tri thức. Nếu không có, nói thẳng là không có.

Kết quả đúng là nó nói không có. Nếu nó vẫn trả lời trơn tru, bạn biết mình phải luôn thêm câu ép
nguồn, và luôn kiểm trích dẫn.

Làm trên ChatGPT

Tương ứng gần nhất là Projects hoặc một Custom GPT có tệp gắn kèm:

1. Tạo một Project, đặt tên đúng chủ đề.
2. Tải cùng 5 tài liệu đó lên (đọc bài 18 trước nếu tài liệu là nội bộ hoặc nhạy cảm).
3. Trong phần hướng dẫn của project, ghi: "Chỉ trả lời dựa trên các tệp trong project này. Ghi rõ
   tên tệp cho mỗi khẳng định. Nếu tệp không đề cập, nói thẳng là không có."
4. Hỏi lại đúng 5 câu, chấm điểm theo bảng như trên.

So sánh bạn nên rút ra:

Kết luận thực dụng: tài liệu nội bộ thì để trên Redstone. ChatGPT Projects dùng cho tài liệu công
khai hoặc tài liệu của riêng bạn không có thông tin mật.

Bài tập

Thời gian: 60 phút. Đây là bài tập nặng nhất trong khoá, và đáng giá nhất.

1. Làm hết 9 bước của phần thực hành, với tài liệu thật.
2. Nộp bảng chấm điểm 5 câu hỏi.
3. Chia sẻ kho cho một đồng nghiệp ở mức "Được xem", nhờ họ hỏi 2 câu, ghi lại kết quả.
4. Viết vào một ghi chú: kho này còn thiếu tài liệu gì để trả lời được 80% câu hỏi hằng ngày của
   bộ phận bạn? Đây là danh sách việc cho tuần sau.

Tiêu chí đạt:

• Ít nhất 4 trên 5 câu hỏi được trả lời đúng và có trích dẫn tới đúng tài liệu.
• Câu hỏi ngoài phạm vi được trả lời "không có trong tài liệu", không phải một câu bịa.
• Đồng nghiệp của bạn hỏi được và nhận câu trả lời có trích dẫn.

Lỗi thường gặp

Tự kiểm tra

1. Vì sao phải đợi trạng thái "Sẵn sàng" mới hỏi?
2. Tên kho và thẻ ảnh hưởng gì tới chất lượng trả lời?
3. Bạn kiểm một trích dẫn có đúng hay không bằng cách nào, từng bước?
4. Loại câu hỏi nào kho tri thức làm không tốt?
5. Bạn nên cho đồng nghiệp mức "Được xem" hay "Được chỉnh sửa"? Vì sao?
6. Kho tri thức và thư mục (bài 05) khác nhau ở đâu?

Mang về

• Tải một lần, dùng mãi. Đây là khoản đầu tư sinh lời cao nhất trong khoá học.
• Kiểm "Sẵn sàng" và "Xem trước" trước khi kết luận kho không hoạt động.
• Tên kho và thẻ là cách bạn dạy agent chọn đúng nguồn.
• Luôn ép trích dẫn với việc quan trọng, và thật sự mở ra kiểm ít nhất vài lần.
• Tài liệu sai trong kho lan ra mọi câu trả lời. Dọn kho là việc định kỳ, không phải làm một lần.

Bài tiếp theo

Bài 08. Bộ nhớ: để không phải giải thích lại lần thứ mười