ChatGPT: Lo ngại thông tin sai lệch khi phần lớn câu trả lời đều không dẫn nguồn

08:10 13/02/2023

Sự phát triển của các công cụ AI tổng quát như ChatGPT thể hiện sự tiến bộ của công nghệ. Tuy nhiên, các chuyên gia cho rằng, ChatGPT như bất kỳ công nghệ mới nào, bên cạnh những ưu điểm mà nó mang lại, người dùng cũng cần phải xem xét đến cả những rủi ro và nhược điểm tiềm ẩn.

Một trong số đó là hầu hết các câu trả lời của ChatGPT đều không dẫn nguồn, dẫn đến việc thông tin mà AI này đưa ra có thể sai lệch, gây nguy hiểm cho người dùng trong việc đưa ra các quyết định quan trọng.

Chỉ sau một thời gian ngắn xuất hiện, ChatGPT đã tạo ra “cơn sốt” trên toàn cầu. Ảnh minh hoa.

Nhiều chuyên gia lo ngại, với khả năng tạo ra một lượng lớn văn bản một cách nhanh chóng và thuyết phục, các công cụ AI tổng quát như ChatGPT có thể được sử dụng để phổ biến tin tức không chính xác, thậm chí là tin giả mạo trên quy mô lớn.

Lo ngại này không phải là không có cơ sở khi tổ chức OpenAI, đơn vị sáng lập và vận hành ChatGPT cũng đã đưa ra cảnh báo rằng, ChatGPT đôi khi có thể tạo ra thông tin không chính xác hoặc gây hiểu lầm, vì vậy người dùng nên cẩn thận. Các câu trả lời nghe có vẻ hợp lý và thậm chí có căn cứ, nhưng chúng có thể hoàn toàn sai.

Trải nghiệm thực tế của người dùng tại Việt Nam cũng đã đưa ra nhiều ví dụ, cho thấy ChatGPT trả lời sai, thậm chí còn “gây cười”. Chẳng hạn như tác phẩm “Tắt đèn” của Nhà văn Ngô Tất Tố, qua câu trả lời của ChatGPT bỗng trở thành một truyện ngắn về chủ đề bảo vệ môi trường. Nhiều câu trả lời của ChatGPT đã bị người dùng “dẫn dắt” dẫn đến việc từ trả lời đúng, ChatGPT bị “lái” theo người dùng dẫn đến trả lời sai.

Từ những trải nghiệm trên, nhiều ý kiến cho rằng, ChatGPT dựa trên dữ liệu khổng lồ do chính các nhà phát triển cung cấp, kể cả từ những nguồn dữ liệu chưa được kiểm chứng tính xác thực, vì vậy không nên quá đặt niềm tin vào ứng dụng này mà hãy có những bước xác nhận cần thiết từ những nguồn chính thống.

Về vấn đề này, TS. Đặng Minh Tuấn, Viện trưởng Viện nghiên cứu ứng dụng CMC, Chủ tịch Liên minh Blockchain Việt Nam, “cha đẻ” của phần mềm Vietkey chia sẻ: Một trong những ưu điểm của ChatGPT là tương tác giữa người với máy thân thiện như người với người, được huấn luyện trên cơ sở dữ liệu lớn nên trả lời được nhiều câu hỏi chỉ trong một thời gian ngắn. Vì vậy, nó hữu ích cho tất cả các lĩnh vực, ngành nghề.

Tuy nhiên, ông Tuấn cho biết, cá nhân ông không sử dụng ChatGPT nhiều. Lý do là đối với công tác nghiên cứu khoa học rất cần sự chính xác, trong khi đó theo thống kê ban đầu chỉ khoảng 70-80% câu trả lời của ChatGPT là có thể chấp nhận được. Ngay chính nhà sáng lập của ChatGPT cũng đã đưa ra cảnh báo, câu trả lời mà ChatGPT đưa ra có thể không đúng; câu trả lời có thể bị thiên kiến, sai lệch do dữ liệu đầu vào chưa đầy đủ. Bên cạnh đó, dữ liệu chỉ mới cập nhật đến năm 2021, nên nếu hỏi những thông tin mới của năm 2023 thì câu trả lời chưa cập nhật.

Cũng theo TS Đặng Minh Tuấn, có một vấn đề cần lưu tâm là ChatGPT có thể kiểm soát tâm lý người dùng, định hướng dư luận hoặc một luồng dư luận. Đơn giản như thông qua việc sắp xếp thứ tự các thông tin, thông qua công nghệ để hiển thị tin tốt, tin xấu, sẽ khó phát hiện hơn.

“Chúng ta không nên cấm đoán sử dụng ChatGPT như một số trường ở Hoa Kỳ bởi với công cụ nào cũng có mặt trái. Tuy vậy, cũng không nên lạm dụng. Chúng ta có thể hỏi nó ở những vấn đề mà trong đầu mình chưa có sự hình dung để tiết kiệm thời gian, để có những dữ liệu ban đầu. Còn đối với những vấn đề cần thông tin chính xác, tra cứu bằng các công cụ khác như Google sẽ dễ kiểm chứng và đỡ mất thời gian hơn”, ông Tuấn chia sẻ.

Ths Triệu Anh Dũng, Phó Giám đốc Trung tâm nghiên cứu BlockchainQNET, giảng viên thỉnh giảng bộ môn An toàn thông tin, Học viện Bưu chính viễn thông Việt Nam cũng cho rằng, bản thân ông đã đồng hành với công cụ này trong phần lớn công việc của mình và có thể nói, ở một khía cạnh nào đó, ChatGPT đã trở thành đồng sự. Tuy vậy, ông Dũng cũng khuyến cáo không nên cho trẻ con dùng ChatGPT bởi ở độ tuổi của các cháu, chưa có thói quen kiểm chứng thông tin.

Trong khi đó, hầu hết các câu trả lời của ChatGPT đều không dẫn nguồn. Nếu trong trường hợp ChatGPT đưa ra câu trả lời sai và các cháu hành động theo câu trả lời thì sẽ rất nguy hiểm.

“Chúng ta hãy nhìn nhận ChatGPT đúng là chính nó, không cười cợt nó song cũng không thần thánh hoá nó. Từ những câu trả lời của ChatGPT sẽ giúp người dùng trích rút được tri thức, dữ liệu trở thành thông tin, có thể sử dụng nó làm dữ liệu tham khảo ban đầu. Tuyệt đối không sử dụng ChatGPT cho các quyết định quan trọng cho cả cá nhân và tổ chức, nhất là khi câu trả lời không có dẫn nguồn”, ông Dũng nêu quan điểm.

Huyền Thanh

Cơ quan Cảnh sát điều tra Bộ Công an (Cục Cảnh sát điều tra tội phạm về tham nhũng, kinh tế, buôn lậu) đã làm rõ sai phạm của Công ty Cổ phần Tập đoàn đầu tư Khoáng sản Hưng Thịnh (Công ty Hưng Thịnh) trong việc: Khai thác quặng titan vượt nhiều lần trữ lượng, công suất theo Giấy phép khai thác khoáng sản do Bộ Tài nguyên & Môi trường cấp; Khai thác, xuất bán quặng titan nguyên khai không qua chế biến, gây thất thoát, lãng phí đặc biệt lớn nguồn tài nguyên khoáng sản và tiền thuế cho ngân sách Nhà nước.

Như Báo CAND đưa tin, Cục Cảnh sát hình sự đã triệt phá băng nhóm tội phạm do đối tượng Phạm Đức Bình (tức Bình "Kiểm", SN 1970), trú tại Móng Cái, tỉnh Quảng Ninh cầm đầu. 16 đối tượng trong băng nhóm phạm tội gì, hoạt động phạm tội cụ thể của băng nhóm này như thế nào, chúng tôi tiếp tục thông tin cùng bạn đọc...

Liên quan đến vụ việc một nhóm thanh niên điều khiển xe mô tô lạng lách, đánh võng gây tai nạn nghiêm trọng cho người tham gia giao thông tại Hà Nội, Đại tướng Lương Tam Quang, Ủy viên Bộ Chính trị, Bộ trưởng Bộ Công an đã có ý kiến chỉ đạo Công an thành phố Hà Nội tăng cường tuần tra kiểm soát xử lý dứt điểm tình trạng thanh thiếu niên tụ tập đua xe, lạng lách gây nguy hiểm cho người tham gia giao thông.

Ngày 7/11, TAND cấp cao tại TP Hồ Chí Minh tiếp tục xét xử phúc thẩm bị cáo Trương Mỹ Lan (Chủ tịch HĐQT Tập đoàn Vạn Thịnh Phát) và 47 đồng phạm có kháng cáo trong vụ án Vạn Thịnh Phát giai đoạn 1. HĐXX tập trung xét hỏi các bị cáo thuộc đoàn Thanh tra Ngân hàng Nhà nước, bị cáo Nguyễn Cao Trí và bị hại…

Đối tượng Phạm Đức Bình (tức Bình "Kiểm", SN 1970), trú tại Móng Cái, tỉnh Quảng Ninh, là đối tượng giang hồ cộm cán, có nhiều tiền án, tiền sự, từng cầm đầu băng nhóm tội phạm đặc biệt nguy hiểm trước đây. Bình có bản tính lỳ lợm, côn đồ, sử dụng vũ khí quân dụng gây ra nhiều vụ án đặc biệt nghiêm trọng trên địa bàn cả nước.

Nhắc lại vụ Công ty Pharos của FLC nâng vốn điều lệ 1,5 tỷ đồng lên 4.300 tỷ trong 3 năm 2014-2016; vụ án Sài Gòn - Đại Ninh của ông Nguyễn Cao Trí nhiều lần "phù phép" tương tự đã nâng vốn lên 2.000 tỷ đồng, đại biểu Nguyễn Hữu Toàn đề nghị kiểm toán xác định vốn điều lệ ban đầu để tránh "sự đánh tráo" với các nhà đầu tư.

©2004. Bản quyền thuộc về Báo Công An Nhân Dân.
®Không sao chép dưới mọi hình thức khi chưa có sự đồng ý bằng văn bản của Báo Công An Nhân Dân.
English | 中文