Khi ChatGPT trả lời rất tự tin… nhưng lại sai
Hãy tưởng tượng bạn yêu cầu ChatGPT liệt kê năm cuốn sách của một tác giả ít nổi tiếng hoặc hỏi về một sự kiện mới vừa xảy ra. AI có thể đưa ra câu trả lời đầy đủ, mạch lạc, thậm chí kèm theo tên sách, ngày xuất bản hoặc nguồn tham khảo nghe rất thuyết phục.
Nhưng khi đối chiếu với thông tin chính thức, bạn phát hiện một số chi tiết không tồn tại. Có cuốn sách chưa từng được xuất bản, đường dẫn tài liệu không có thật hoặc nhân vật được nhắc đến hoàn toàn không liên quan đến câu hỏi.
Điều khiến nhiều người ngạc nhiên là ChatGPT không hề thể hiện sự do dự. Câu trả lời vẫn được trình bày rất tự nhiên, giống như một thông tin đã được kiểm chứng.
Đây chính là lý do nhiều người cho rằng AI đang "bịa" thông tin hoặc cố tình đánh lừa người dùng. Tuy nhiên, bản chất của hiện tượng này phức tạp hơn nhiều.
nhưng không phản ánh đúng thực tế.
⚠️ Điều nhiều người hiểu nhầm
ChatGPT không cố tình "nói dối" hay đánh lừa người dùng. Trong nhiều trường hợp, mô hình không biết rằng thông tin mình vừa tạo ra là không chính xác.
AI Hallucination là gì?
Trong lĩnh vực trí tuệ nhân tạo, Hallucination là thuật ngữ dùng để chỉ hiện tượng mô hình AI tạo ra thông tin không chính xác, không có thật hoặc không được dữ liệu thực tế hỗ trợ, nhưng vẫn trình bày theo cách rất tự tin và mạch lạc.
Khái niệm "Hallucination" được mượn từ y học, nơi nó mô tả trạng thái con người cảm nhận hoặc nhìn thấy những điều không tồn tại. Với AI, thuật ngữ này không mang ý nghĩa mô hình "ảo giác" như con người, mà chỉ phản ánh việc hệ thống sinh ra những nội dung không đúng với thực tế.
Hallucination có thể xuất hiện dưới nhiều dạng khác nhau. AI có thể tạo ra tên sách, bài báo hoặc nghiên cứu chưa từng tồn tại; trích dẫn sai nguồn; nhầm lẫn ngày tháng, con số hoặc gán phát biểu của người này cho người khác. Trong một số trường hợp, toàn bộ câu trả lời đều được xây dựng rất logic nhưng lại dựa trên những dữ kiện không có thật.
Điều đáng chú ý là người dùng rất khó nhận ra nếu không kiểm tra lại bằng các nguồn đáng tin cậy.
Vì sao ChatGPT có thể trả lời sai một cách rất tự tin?
Để hiểu hiện tượng Hallucination, trước tiên cần thay đổi một quan niệm phổ biến: ChatGPT không hoạt động như Google Search.
Khi bạn tìm kiếm trên Google, công cụ sẽ truy xuất thông tin từ các trang web đã được lập chỉ mục rồi hiển thị những kết quả phù hợp nhất. Nói cách khác, Google bắt đầu bằng việc tìm kiếm dữ liệu.
ChatGPT lại hoạt động theo một nguyên lý khác. Thay vì đi tìm câu trả lời trên Internet, mô hình sẽ dự đoán chuỗi từ có khả năng xuất hiện tiếp theo dựa trên những gì đã học trong quá trình huấn luyện và ngữ cảnh của cuộc trò chuyện.
Điều này giống như việc bạn yêu cầu AI hoàn thành một đoạn văn còn dang dở. Mục tiêu của mô hình là tạo ra câu trả lời tự nhiên và hợp lý nhất theo xác suất thống kê, chứ không phải kiểm tra từng chi tiết xem có đúng với thực tế hay không.
Chính vì vậy, khi thiếu dữ liệu, gặp câu hỏi quá mới hoặc chủ đề quá hiếm, AI vẫn có xu hướng tiếp tục tạo ra câu trả lời thay vì dừng lại. Kết quả là những thông tin không chính xác có thể xuất hiện, dù cách diễn đạt vẫn rất mạch lạc và thuyết phục.
Nguồn: Brands Vietnam.
Khi nào AI dễ gặp hiện tượng Hallucination?
Hallucination có thể xuất hiện ở bất kỳ mô hình AI tạo sinh nào, nhưng thường xảy ra nhiều hơn trong một số tình huống.
Những câu hỏi liên quan đến sự kiện mới, dữ liệu ít phổ biến, tài liệu hiếm hoặc yêu cầu AI suy đoán thường có nguy cơ tạo ra thông tin không chính xác cao hơn. Tương tự, khi người dùng đặt câu hỏi quá chung chung hoặc thiếu ngữ cảnh, mô hình cũng dễ đưa ra câu trả lời dựa trên xác suất thay vì dữ liệu cụ thể.
Ngược lại, với những chủ đề phổ biến, có nhiều nguồn dữ liệu và được mô hình học đầy đủ, khả năng Hallucination thường thấp hơn.
Làm thế nào để hạn chế Hallucination?
Không có cách nào loại bỏ hoàn toàn Hallucination, nhưng người dùng có thể giảm đáng kể nguy cơ nhận thông tin sai.
Trước hết, hãy xem AI như một trợ lý hỗ trợ thay vì nguồn thông tin tuyệt đối. Với các nội dung quan trọng như pháp lý, y tế, tài chính hoặc nghiên cứu, bạn nên kiểm tra lại bằng tài liệu chính thức hoặc nguồn uy tín.
Khi sử dụng ChatGPT, việc đặt câu hỏi rõ ràng, yêu cầu mô hình trích dẫn nguồn (nếu có) và sử dụng tính năng tìm kiếm trên web trong những trường hợp cần thông tin mới cũng giúp tăng độ chính xác của câu trả lời.
Kết luận
AI Hallucination không phải là dấu hiệu cho thấy ChatGPT hay các mô hình AI khác đang "nói dối". Đây là hệ quả của cách mô hình ngôn ngữ tạo ra câu trả lời dựa trên xác suất, thay vì luôn kiểm chứng thông tin như một công cụ tìm kiếm.
Hiểu rõ giới hạn này sẽ giúp bạn khai thác AI hiệu quả hơn: sử dụng để tổng hợp, giải thích và hỗ trợ tư duy, đồng thời duy trì thói quen kiểm chứng khi làm việc với những thông tin quan trọng. Trong thời đại AI ngày càng phổ biến, kỹ năng đặt câu hỏi và đánh giá nguồn tin sẽ quan trọng không kém việc biết sử dụng công cụ.
