Công cụ tìm kiếm AI mới của OpenAI đã hợp tác với các ấn phẩm tin tức lớn, nhưng đừng dựa vào nó để có kết quả chính xác.

Chỉ một tháng sau khi OpenAI phát hành công cụ tìm kiếm AI đầu tiên – SearchGPT – công cụ này đã bị chỉ trích vì không trả lời được các truy vấn và xác định nguồn chính xác.

Sự việc này diễn ra sau khi công ty AI lớn này làm rùm beng về việc hợp tác với các ấn phẩm lớn như Vogue, The New Yorker và The Atlantic để đảm bảo thông tin đáng tin cậy, cập nhật và được thu thập theo cách hỗ trợ cho báo chí độc lập.

Thật không may, đây không phải là lần đầu tiên ChatGPT bị cáo buộc "nói thật nửa vời". Chúng tôi tìm hiểu những nguyên nhân gốc rễ có thể gây ra vấn đề "nói dối" của các công cụ tìm kiếm AI này và thảo luận liệu có nên thỏa thuận với "kẻ nguy hiểm" hay tiếp tục ngăn chặn các trình thu thập dữ liệu web gây tranh cãi của ChatGPT.

SearchGPT không chính xác, ngay cả khi làm việc với các ấn phẩm đối tác.

Kể từ khi OpenAI lần đầu tiên hé lộ về việc ra mắt SearchGPT, công cụ tìm kiếm được hỗ trợ bởi AI này đã được ca ngợi như một đối thủ tiếp theo của Google hoặc Bing.

Bằng cách sử dụng AI thay vì các nguồn truyền thống dựa trên web, công cụ tìm kiếm mới đã đặt mục tiêu thách thức hiện trạng bằng cách cung cấp cho người dùng những câu trả lời có tính hội thoại và được nhắm mục tiêu hơn. OpenAI, với sức mạnh AI của mình, tuyên bố sẽ thực hiện điều này một cách có đạo đức bằng cách "hợp tác sâu rộng với ngành công nghiệp tin tức" và "lắng nghe cẩn thận phản hồi" từ các nhà xuất bản.

Giờ đây, sau một tháng ra mắt, liệu SearchGPT có thực sự đáp ứng được những lời hứa hẹn của mình? Các nhà nghiên cứu từ Columbia Journalism Review dường như không nghĩ vậy. Sau khi thử nghiệm công cụ tìm kiếm AI một cách kỹ lưỡng, họ phát hiện rằng nó thường xuyên đưa ra các kết quả không chính xác và không có căn cứ – ngay cả khi trích dẫn các nhà xuất bản mà OpenAI đã hợp tác, như The Atlantic, Alex Springer và The Wall Street Journal.

Ngoài việc thường xuyên đưa ra câu trả lời sai, SearchGPT còn thất bại trong việc gán trích dẫn đúng nguồn. Khi các nhà nghiên cứu yêu cầu chatbot xác định 200 trích dẫn từ 20 ấn phẩm, nó đã không thể làm đúng trong 153 lần. Đôi khi, ChatGPT Search tỏ ra khá hơn một chút trong việc xác định đúng nguồn từ các ấn phẩm được ghép đôi, thay vì từ những nguồn OpenAI có quan hệ neural hoặc những nguồn đã chủ động chặn trình thu thập dữ liệu của nó, nhưng không phải lúc nào cũng vậy.

SearchGPT không thể thừa nhận khi nó sai.

Ngay cả những người mới sử dụng AI nhất cũng biết rằng các phản hồi do những công cụ này tạo ra cần được xem xét một cách cẩn thận. Tuy nhiên, dù không có chatbot AI nào là thước đo chính xác tuyệt đối của sự thật, điều gì khiến công cụ tìm kiếm của OpenAI mắc phải quá nhiều sai sót như vậy?

Thứ nhất, các nhà nghiên cứu tại Columbia Journalism Review nhận thấy rằng SearchGPT hiếm khi thừa nhận khi nó không thể đưa ra câu trả lời chính xác. Thay vào đó, chatbot này thường tự bổ sung những khoảng trống bằng cách tạo ra các phản hồi sai một phần hoặc hoàn toàn. Ví dụ, đôi khi công cụ này trích dẫn sai nhà xuất bản và sai ngày tháng, và đôi khi cả phản hồi đều sai hoàn toàn.

Vấn đề nghiêm trọng hơn, SearchGPT cũng hiếm khi thừa nhận rằng nó đang làm như vậy. Chatbot này chỉ sử dụng các cụm từ điều kiện như “có thể”, “rất có khả năng” hoặc “tôi không thể tìm thấy bài báo cụ thể” trong 7 trên tổng số 153 lần mà nó đưa ra câu trả lời sai, khiến người dùng khó nhận biết rằng họ không nên tin tưởng vào những thông tin này.

Mô hình AI nền tảng của ChatGPT là nguyên nhân gây ra các lỗi

Theo phân tích của Columbia Journalism Review, các trình thu thập dữ liệu web mà ChatGPT sử dụng để truy cập dữ liệu dường như hoạt động hoàn hảo. Tuy nhiên, lỗi có thể xuất phát từ chính mô hình AI nền tảng của chatbot này. Mô hình ngôn ngữ lớn (LLM) của ChatGPT đã nhiều lần được biết đến với việc đưa ra các phản hồi không chính xác, từ chẩn đoán y khoa sai cho đến các tuyên bố chính trị bịa đặt, đặc biệt khi phải giải quyết các truy vấn không quen thuộc hoặc liên quan đến các sự kiện mới, đang phát triển.

Kết quả của công cụ tìm kiếm ChatGPT cho thấy rằng AI nền tảng của chatbot vẫn có khả năng mắc lỗi, ngay cả khi có quyền truy cập hợp pháp vào nội dung. Nhưng điều này có ý nghĩa gì đối với ngành báo chí? Khi cuộc chiến về quyền sở hữu trí tuệ giữa các nhà xuất bản và công ty AI tiếp tục diễn ra, các cơ quan truyền thông vẫn có nguy cơ bị lấy cắp thông tin, dù họ có đồng ý hay không. Tuy nhiên, phân tích này cũng cho thấy rằng hợp tác với các công ty như OpenAI có thể không phải là giải pháp, bởi vì các công cụ như SearchGPT thậm chí không thể ghi nhận chính xác nguồn gốc của tài liệu.

Đối với người dùng AI thông thường, nếu bạn đang tìm kiếm một công cụ thay thế Google được hỗ trợ bởi AI, chúng tôi khuyến nghị sử dụng Perplexity AI thay vì SearchGPT. Công cụ này không chỉ bao gồm các liên kết hữu ích tới nguồn (một cách chính xác, cần lưu ý) mà còn kèm theo các hình ảnh liên quan, tương tự như cách Google Search hoạt động.

Nguồn:: Tech.Co