Vì sao AI thường viết sai thông tin sản phẩm? Cách hạn chế AI Hallucination

AI Hallucination (ảo giác AI) là hiện tượng mô hình AI tạo ra thông tin sai nhưng trình bày như thể đúng: một mức giá không tồn tại, một tính năng sản phẩm chưa có, một lời chứng thực không ai nói. Trong nhiều lĩnh vực, đây là lỗi khó chịu. Trong marketing, nó nguy hiểm hơn: một khi đăng lên, câu sai trở thành lời doanh nghiệp nói với khách — về giá, bảo hành, điều kiện khuyến mãi, thậm chí về pháp lý.

Tin tốt là hallucination không ngẫu nhiên. Nó xảy ra nhiều hơn trong những điều kiện có thể nhận ra và kiểm soát. Bài này giải thích vì sao AI bịa, và quy trình 6 bước để thông tin sai không lọt ra ngoài.

Vì sao AI bịa thông tin sản phẩm

Mô hình ngôn ngữ không tra cứu sự thật; nó dự đoán chữ tiếp theo có khả năng nhất dựa trên những gì đã học và những gì có trong yêu cầu. Khi bạn yêu cầu “viết bài giới thiệu máy lọc nước, nêu rõ chế độ bảo hành” mà không đưa chính sách bảo hành, mô hình vẫn phải viết một câu về bảo hành — và câu có khả năng nhất là câu phổ biến trên internet, không phải câu của bạn. Có bốn tình huống khiến việc này xảy ra nhiều:

• Thiếu dữ liệu nhưng yêu cầu đòi chi tiết. “Viết có số liệu cụ thể cho thuyết phục” là lời mời AI tự tạo số liệu.
• Dữ liệu cũ hoặc mâu thuẫn. Kho có cả bảng giá cũ và mới, AI có thể lấy nhầm hoặc trộn.
• Thông tin gần giống nhau. Hai gói dịch vụ tên tương tự, AI gán tính năng gói này cho gói kia.
• Câu hỏi nằm ngoài dữ liệu được cấp. Mô hình thường được huấn luyện để trả lời hữu ích, nên có xu hướng trả lời thay vì nói “không biết”.

Tài liệu hướng dẫn cho AI tạo sinh trong khuôn khổ NIST AI Risk Management Framework gọi hiện tượng này là “confabulation” và xếp nó vào nhóm rủi ro cần quản lý. Trên thực tế, chưa có cách loại bỏ hoàn toàn; doanh nghiệp giảm và kiểm soát nó bằng dữ liệu và quy trình.

Sáng tạo, suy luận và hallucination

Ranh giới quan trọng: AI viết “buổi sáng se lạnh, một ly cà phê nóng” trong bài quảng cáo quán cà phê là sáng tạo, không có vấn đề. AI viết “quán mở cửa từ 6 giờ” khi bạn chưa cung cấp giờ mở cửa là hallucination — dù có thể trùng hợp đúng. Nguyên tắc: mọi dữ kiện kiểm chứng được phải có nguồn, phần cảm xúc và diễn đạt thì để AI tự do.

Chuẩn bị gì trước khi giao việc cho AI

• Bảng dữ kiện sản phẩm đã duyệt: tên, giá, thông số, điều kiện, bảo hành — mỗi dòng một dữ kiện, có ngày cập nhật.
• Nguồn chính thức và ngày hiệu lực: biết rõ dữ kiện nào lấy từ đâu để khi nghi ngờ có chỗ đối chiếu.
• Danh sách trường bắt buộc xác nhận: giá, khuyến mãi, bảo hành, thời gian giao, cam kết hiệu quả, so sánh với đối thủ, lời chứng thực.
• Quy tắc từ chối khi thiếu thông tin: ghi rõ trong yêu cầu rằng thiếu dữ kiện thì để trống hoặc hỏi lại.

Bảng dữ kiện nên nằm trong một kho kiến thức được quản lý phiên bản — cách giữ kho đúng theo thời gian có ở bài AI Knowledge Base là gì.

Quy trình 6 bước hạn chế AI Hallucination

Bước 1. Giới hạn tác vụ và yêu cầu AI nêu nguồn

Yêu cầu càng rộng, chỗ để bịa càng nhiều. “Viết bài về sản phẩm” rộng hơn nhiều so với “viết 3 phương án mở đầu cho bài Facebook giới thiệu gói A, chỉ dùng thông tin trong bảng dưới”. Thêm vào yêu cầu: với mỗi dữ kiện về giá, thông số, cam kết, ghi kèm nguồn trong ngoặc. Lúc duyệt, câu nào không có nguồn là câu cần kiểm tra đầu tiên.

Bước 2. Cấp dữ liệu đáng tin cậy thay vì dựa vào trí nhớ mô hình

Mô hình “nhớ” về sản phẩm của bạn qua những gì từng xuất hiện trên internet — thường là không có gì, hoặc thông tin cũ. Đưa dữ liệu vào ngữ cảnh mỗi lần làm việc (grounding) là một trong những cách hiệu quả nhất để giảm bịa. Đây chính là lý do phải đào tạo AI hiểu doanh nghiệp bằng một kho kiến thức, thay vì kỳ vọng AI tự biết.

Bước 3. Đánh dấu các trường giá, thông số và cam kết

Không phải câu nào cũng rủi ro như nhau. Một câu mô tả không khí cửa hàng sai thì vô hại; một câu về giá sai có thể thành tranh chấp. Lập danh sách “trường nhạy cảm” cho doanh nghiệp bạn và yêu cầu người duyệt kiểm từng trường đó, thay vì đọc lướt cả bài. Với ngành có quy định riêng như thực phẩm chức năng, mỹ phẩm, y tế, tài chính, danh sách này dài hơn và cần người hiểu quy định duyệt.

Bước 4. So sánh đầu ra với nguồn bằng checklist

Checklist ngắn, cụ thể, dùng cho mọi bài: giá khớp bảng giá hiện hành? tên sản phẩm và gói đúng? thời hạn khuyến mãi đúng? có con số, phần trăm, xếp hạng nào không có nguồn? có lời chứng thực hay trích dẫn nào không truy được về khách thật? có so sánh với đối thủ không? Mỗi câu trả lời “có vấn đề” thì sửa hoặc xoá câu đó. Bộ tiêu chí đánh giá nội dung AI đầy đủ hơn có ở bài AI viết content marketing.

Bước 5. Yêu cầu người có trách nhiệm duyệt trước khi đăng

Người duyệt phải là người biết sản phẩm, và tốt nhất không phải người vừa soạn yêu cầu cho AI — người viết dễ đọc thấy điều mình định viết thay vì điều AI thật sự viết. Với doanh nghiệp nhỏ, đó có thể là chủ doanh nghiệp đọc 5 phút trước khi đăng. Điều quan trọng là có một bước “chờ duyệt” rõ ràng trong quy trình và không nội dung nào có cam kết thương mại được đăng tự động.

Bước 6. Ghi nhận lỗi để sửa dữ liệu hoặc quy trình

Mỗi lần bắt được một lỗi, ghi lại: AI sai điều gì, vì sao (thiếu dữ liệu, dữ liệu cũ, yêu cầu mơ hồ), đã sửa ở đâu. Sau vài tuần, nhật ký này cho thấy mẫu lặp lại — ví dụ AI liên tục nhầm hai gói có tên gần giống nhau. Khi đó sửa gốc: đổi cách mô tả trong kho, thêm ghi chú phân biệt, chứ không chỉ sửa từng bài.

Ví dụ thực hành: gói dịch vụ chưa có giá

Ví dụ giả định. Một agency nhỏ giao AI viết bài giới thiệu “gói tiêu chuẩn”, brief chỉ có danh sách hạng mục, không có giá. Bản AI đầu tiên viết: “Gói tiêu chuẩn chỉ 499.000 đồng/tháng, cam kết tăng 200% tương tác.” Cả hai con số đều không có trong brief.

Cách làm đúng: yêu cầu ghi rõ “Nếu thiếu giá, để [GIÁ — CẦN XÁC NHẬN]; không đưa cam kết hiệu quả nào”. Bản sau có chỗ trống, người duyệt điền giá thật từ bảng giá, và câu cam kết được thay bằng mô tả hạng mục cụ thể. Một câu bị để trống luôn tốt hơn một câu bị bịa, vì chỗ trống không thể lọt qua mắt người duyệt.

AI giúp kiểm tra đến đâu

AI có thể hỗ trợ chính việc kiểm tra: đưa bài viết và bảng dữ kiện, yêu cầu liệt kê mọi câu chứa con số, tên riêng, cam kết, và đánh dấu câu nào không khớp nguồn. Việc này giúp người duyệt nhanh hơn. Nhưng một AI khác cũng có thể sai, nên đây là công cụ hỗ trợ, không thay thế người duyệt. Độ tự tin trong câu trả lời không phải bằng chứng về độ đúng.

Những sai lầm cần tránh

• Tin rằng câu trả lời tự tin đồng nghĩa với đúng. AI viết sai với cùng giọng văn như khi viết đúng.
• Dùng một nguồn cũ cho sản phẩm đã thay đổi. Đổi giá mà không cập nhật kho thì mọi bài sau đều sai.
• Cho phép AI tự xuất bản nội dung có cam kết thương mại. Tự động hoá khâu đăng là nơi rủi ro cao nhất.
• Yêu cầu “thêm số liệu cho thuyết phục” mà không đưa số liệu. Bạn đang yêu cầu AI bịa.
• Chỉ sửa bài, không sửa gốc. Lỗi sẽ quay lại ở bài tiếp theo.

Câu hỏi thường gặp