Ảo giác AI là gì? Vì sao AI trả lời sai và cách kiểm chứng

Ảo giác AI là gì?

Ảo giác AI là hiện tượng mô hình ngôn ngữ lớn tạo ra thông tin sai lệch hoặc bịa đặt, nhưng trình bày tự tin và mạch lạc như thể đó là sự thật.

Tên tiếng Anh của hiện tượng này là AI hallucination. Khác với ảo giác ở người vốn liên quan đến tri giác sai lệch, ảo giác AI nằm ở phần đầu ra: câu chữ, con số, trích dẫn, tên người, đường link. Mô hình không "nhìn thấy" thứ không có thật. Nó viết ra thứ không có thật.

Điểm khiến hiện tượng này nguy hiểm không phải là AI sai. Con người cũng sai. Điểm nguy hiểm là AI sai với giọng điệu của một chuyên gia đang rất chắc chắn. Không có dấu hiệu ngập ngừng, không có câu "để tôi kiểm tra lại". Một mô hình bịa án lệ và một mô hình trích dẫn án lệ thật nghe giống hệt nhau.

Đây là lý do các mô hình hiện đại như ChatGPT, Claude hay Gemini đều kèm cảnh báo ở cuối giao diện chat rằng AI có thể mắc lỗi và người dùng nên kiểm tra thông tin quan trọng. Cảnh báo đó không phải để đẹp giao diện.

Vì sao AI trả lời sai sự thật?

AI trả lời sai vì bản chất của LLM là dự đoán từ tiếp theo có xác suất cao nhất, không phải tra cứu sự thật trong một cơ sở dữ liệu.

Hãy hình dung LLM như một người rất giỏi đoán câu tiếp theo trong một cuộc hội thoại. Bạn nói "Thủ đô của Việt Nam là", nó điền "Hà Nội" vì tổ hợp đó xuất hiện hàng triệu lần trong dữ liệu huấn luyện. Bạn hỏi một số liệu ngách mà dữ liệu huấn luyện gần như không có, nó vẫn phải điền một thứ gì đó. Và nó điền thứ nghe hợp lý nhất.

Bốn nguyên nhân chính thường được nhắc đến:

• Dữ liệu huấn luyện thiếu, nhiễu hoặc thiên lệch. Chủ đề càng ngách, càng ít tài liệu, tỷ lệ bịa càng cao.
• Cơ chế xác suất. Mô hình tối ưu độ trôi chảy và tính hợp lý ngữ cảnh, không tối ưu độ chính xác thực tế.
• Overfitting. Mô hình ghi nhớ mẫu thay vì hiểu bản chất, nên suy luận lệch khi gặp ngữ cảnh mới.
• Câu hỏi mơ hồ hoặc ngoài phạm vi kiến thức. AI được huấn luyện để hữu ích, và "hữu ích" đôi khi bị nó hiểu thành "phải trả lời bằng được".

Nói cách khác: AI không nói dối. Nói dối cần biết sự thật là gì rồi cố tình nói khác đi. AI không có khái niệm đó. Nó chỉ đang hoàn thành một chuỗi văn bản.

Ảo giác AI có những dạng nào?

Ảo giác AI thường xuất hiện dưới năm dạng: sai dữ kiện, trích dẫn giả, tính năng sản phẩm không có thật, nhận dạng sai và dự đoán vô căn cứ.

Dạng nguy hiểm nhất với người làm nội dung và tư vấn là trích dẫn giả. Vì nó đi kèm đầy đủ tác giả, tạp chí, volume, số trang, DOI. Càng chi tiết càng dễ tin. Một trích dẫn mơ hồ thì người đọc còn nghi ngờ, một trích dẫn có DOI thì hầu như không ai kiểm tra.

Những vụ ảo giác AI có thật đã gây hậu quả gì?

Ảo giác AI đã dẫn tới án phạt tiền, đình chỉ hành nghề luật sư và tổn hại danh dự cá nhân trong nhiều vụ việc được ghi nhận từ năm 2023.

Vụ Mata v. Avianca (2023)

Hai luật sư tại New York dùng ChatGPT để tìm án lệ hỗ trợ lập luận trong vụ kiện hãng hàng không Avianca. ChatGPT sinh ra 6 trích dẫn án lệ với đầy đủ tên vụ việc, số hồ sơ, tòa án và trích dẫn phán quyết. Khi luật sư phía bên kia kiểm tra, không một vụ nào tồn tại trong bất kỳ cơ sở dữ liệu pháp lý nào. Thẩm phán phạt hai luật sư 5.000 USD. Chi tiết đáng chú ý nhất: khi bị chất vấn, một luật sư khai đã hỏi lại ChatGPT rằng các vụ này có thật không, và AI trả lời "Yes".

Vụ People v. Crabill (2023)

Tại Colorado, một luật sư nộp trích dẫn án lệ không tồn tại do ChatGPT sinh ra và bị đình chỉ hành nghề một năm một ngày. [CẦN KIỂM CHỨNG: chi tiết thời hạn đình chỉ và tên bên liên quan cần đối chiếu hồ sơ tòa Colorado trước khi publish]

Vụ Wadsworth v. Walmart (2025)

Một motion nộp lên tòa tại Wyoming chứa 9 trích dẫn án lệ, trong đó 8 vụ không tồn tại, sinh bởi công cụ AI nội bộ của công ty luật. Luật sư chính bị phạt 3.000 USD và mất tư cách hành nghề tạm thời tại bang đó. [CẦN KIỂM CHỨNG]

Trường hợp bịa tiểu sử cá nhân

Đầu năm 2025, một người đàn ông Na Uy hỏi ChatGPT về thông tin của chính mình. AI trả lời rằng ông đã giết hai con trai và đang chấp hành án 21 năm tù. Toàn bộ thông tin sai hoàn toàn. Đây là ví dụ cho thấy ảo giác không chỉ gây sai lệch kỹ thuật mà còn có thể phá hủy danh dự một con người. [CẦN KIỂM CHỨNG]

Một chi tiết đáng suy nghĩ: tất cả những người trong các vụ trên đều là chuyên gia trong lĩnh vực của họ. Luật sư biết đọc án lệ. Họ vẫn bị lừa. Không phải vì họ kém, mà vì họ không nghĩ rằng cần phải kiểm tra một thứ trông hoàn chỉnh đến vậy.

Làm sao phát hiện thông tin sai từ AI?

Bốn dấu hiệu cảnh báo phổ biến nhất là số liệu quá chính xác, chi tiết quá cụ thể, câu trả lời đổi khi hỏi lại và trích dẫn không truy cập được.

Cụ thể hơn về từng dấu hiệu:

• Số liệu quá đẹp hoặc quá chi tiết. "Tăng trưởng 205%", "độ chính xác 97,38%". Con số càng lẻ càng dễ khiến người đọc tin, và đó chính là lý do nên nghi ngờ.
• Chi tiết mà không ai nhớ nổi. Số điều luật, số trang sách, ISBN, tên nghiên cứu kèm tác giả và năm. Nếu AI nhả ra những thứ này mà không có nguồn kèm theo, hãy coi là nghi ngờ cao.
• Trả lời khác nhau khi hỏi lại. Hỏi cùng một câu 2 đến 3 lần theo cách diễn đạt khác nhau. Nếu số liệu hoặc tên thay đổi, ít nhất một lần đã bịa.
• Link chết, DOI không resolve. Mở thử. Đây là bước mất 10 giây và bắt được phần lớn trích dẫn giả.

Quy trình kiểm chứng 5 bước

1. Yêu cầu nguồn ngay lập tức. "Nguồn của thông tin này là gì? Cung cấp URL hoặc tên tài liệu." Không đưa được nguồn cụ thể thì đánh dấu rủi ro cao.
2. Kiểm tra nguồn có tồn tại không. Mở URL, paste DOI vào doi.org, search tên bài báo trên Google Scholar.
3. Đối chiếu nguồn độc lập. Tìm claim đó ở ít nhất hai nguồn uy tín khác. Không tìm thấy ở đâu thì khả năng cao là bịa.
4. Kiểm tra mâu thuẫn nội tại. Đọc lại toàn bộ câu trả lời xem số liệu đầu bài có khớp cuối bài không, timeline có hợp lý không.
5. Hỏi AI tự đánh giá. "Phần nào trong câu trả lời của bạn có thể sai và cần kiểm chứng?" Nhiều mô hình sẽ tự chỉ ra điểm yếu khi được hỏi thẳng.

Cách hạn chế ảo giác AI khi làm việc hằng ngày?

Cách hiệu quả nhất là kết hợp prompt an toàn, giới hạn AI trong nguồn tài liệu của bạn và luôn có bước kiểm tra của con người trước khi xuất bản.

Nhóm giải pháp ở cấp độ prompt

• Cho phép AI nói không biết: thêm vào đầu prompt câu "Nếu bạn không chắc hoặc thiếu bằng chứng, hãy nói không biết thay vì đoán".
• Bắt trích dẫn nguồn cho mọi claim dữ kiện.
• Giới hạn phạm vi: "Chỉ trả lời dựa trên tài liệu tôi cung cấp".
• Chia nhỏ câu hỏi phức tạp thành từng phần thay vì hỏi một câu quá rộng.
• Đối chiếu 2 đến 3 mô hình khác nhau với cùng một câu hỏi then chốt.

Nhóm giải pháp ở cấp độ hệ thống

Nếu bạn xây bot nội bộ hoặc quy trình sản xuất nội dung có AI tham gia, RAG là kỹ thuật quan trọng nhất. Thay vì để AI dựa vào trí nhớ huấn luyện, bạn nối nó với kho tài liệu tin cậy của mình: văn bản pháp luật, báo cáo thị trường, dữ liệu CRM. AI chỉ được trả lời dựa trên những gì nó tìm thấy trong kho đó.

Bổ sung thêm guardrails: yêu cầu đầu ra theo template hoặc JSON cố định, tự động kiểm tra mâu thuẫn logic, và định tuyến sang người thật khi mô hình tự đánh giá độ tin cậy thấp.

Lớp cuối cùng là con người

Với nội dung nhạy cảm như tư vấn pháp lý, khuyến nghị đầu tư hay báo cáo gửi khách hàng, quy trình nên là: AI tạo bản nháp, chuyên gia review, rồi mới xuất bản. Không có ngoại lệ. Chi phí của một lần review là vài chục phút. Chi phí của một trích dẫn giả lọt ra ngoài thì bạn đã thấy ở phần trên rồi.

Cần nói thẳng: không có cách nào loại bỏ 100% ảo giác AI. Bất kỳ ai bán cho bạn giải pháp "AI không bao giờ sai" đều đang bán một thứ không tồn tại. Mục tiêu thực tế là giảm tỷ lệ lỗi xuống mức chấp nhận được và bắt được lỗi trước khi nó ra tới khách hàng.

Câu hỏi thường gặp về ảo giác AI

Ảo giác AI có xảy ra với mọi mô hình không?

Có. ChatGPT, Claude, Gemini và các LLM khác đều có thể bịa thông tin, vì đây là đặc tính của cơ chế dự đoán xác suất chứ không phải lỗi của một nhà cung cấp cụ thể.

Mô hình mới hơn có ít ảo giác hơn không?

Nhìn chung tỷ lệ ảo giác giảm dần qua các thế hệ mô hình, nhưng không về 0. Mô hình mạnh hơn còn có thể nguy hiểm hơn ở chỗ nội dung bịa được viết thuyết phục hơn.

Bật tính năng tìm kiếm web có hết ảo giác không?

Không hết, nhưng giảm đáng kể. AI có tìm kiếm vẫn có thể hiểu sai nguồn, trích dẫn lệch ngữ cảnh hoặc tổng hợp sai. Bạn vẫn nên mở link kiểm tra.

Vì sao AI khẳng định thông tin bịa là có thật khi tôi hỏi lại?

Vì câu trả lời xác nhận cũng là một chuỗi văn bản có xác suất cao. Mô hình không tra cứu lại thực tế khi bạn hỏi, nó chỉ tiếp tục hoàn thành hội thoại theo hướng nhất quán với những gì đã nói.

Ảo giác AI thường xảy ra nhiều nhất ở loại thông tin nào?

Ở các thông tin ngách và ít xuất hiện trong dữ liệu huấn luyện: số liệu địa phương, quy định pháp lý cụ thể, tiểu sử người ít nổi tiếng, thông tin sau thời điểm cắt dữ liệu của mô hình.

Tôi nên kiểm chứng mọi câu trả lời của AI không?

Không cần với nội dung sáng tạo hoặc động não. Cần với mọi con số, tên riêng, ngày tháng, trích dẫn, quy định pháp lý và bất cứ thứ gì bạn sẽ đưa vào tài liệu gửi ra ngoài.

Ảo giác AI có phải là lỗi của người dùng không?

Không. Nên xem nó như một đặc tính hệ thống cần quản lý bằng quy trình, giống như bạn quản lý rủi ro sai sót trong bất kỳ khâu sản xuất nào khác.

Ảo giác AI không phải lý do để bỏ AI. Nó là lý do để dùng AI có quy trình. Người dùng AI giỏi không phải người viết prompt hay nhất, mà là người biết chỗ nào cần dừng lại và mở link kiểm tra.

Hãy bắt đầu từ ba việc nhỏ trong tuần này: thêm câu "nếu không chắc thì nói không biết" vào prompt mặc định, mở thử mọi link AI đưa ra và tạo một thư mục tài liệu gốc để AI bám vào khi bạn cần phân tích.

Nếu bạn muốn học cách làm việc với AI ở mức hệ thống, từ cá nhân hóa Claude bằng Project và Skill cho tới xây trợ lý AI bám vào dữ liệu thật của doanh nghiệp mình, khóa Claude AI Mastery của Vinalink Academy là điểm bắt đầu phù hợp. Chương trình 6 buổi thực chiến, toàn bộ bài tập làm trực tiếp trên công việc thật của học viên. Xem chi tiết tại vinalink.edu.vn/cac-khoa-hoc/claude-ai-mastery.