ChatGPT: Lo ngại thông tin sai lệch khi phần lớn câu trả lời đều không dẫn nguồn

08:10 13/02/2023

Sự phát triển của các công cụ AI tổng quát như ChatGPT thể hiện sự tiến bộ của công nghệ. Tuy nhiên, các chuyên gia cho rằng, ChatGPT như bất kỳ công nghệ mới nào, bên cạnh những ưu điểm mà nó mang lại, người dùng cũng cần phải xem xét đến cả những rủi ro và nhược điểm tiềm ẩn.

Một trong số đó là hầu hết các câu trả lời của ChatGPT đều không dẫn nguồn, dẫn đến việc thông tin mà AI này đưa ra có thể sai lệch, gây nguy hiểm cho người dùng trong việc đưa ra các quyết định quan trọng.

Chỉ sau một thời gian ngắn xuất hiện, ChatGPT đã tạo ra “cơn sốt” trên toàn cầu. Ảnh minh hoa.

Nhiều chuyên gia lo ngại, với khả năng tạo ra một lượng lớn văn bản một cách nhanh chóng và thuyết phục, các công cụ AI tổng quát như ChatGPT có thể được sử dụng để phổ biến tin tức không chính xác, thậm chí là tin giả mạo trên quy mô lớn.

Lo ngại này không phải là không có cơ sở khi tổ chức OpenAI, đơn vị sáng lập và vận hành ChatGPT cũng đã đưa ra cảnh báo rằng, ChatGPT đôi khi có thể tạo ra thông tin không chính xác hoặc gây hiểu lầm, vì vậy người dùng nên cẩn thận. Các câu trả lời nghe có vẻ hợp lý và thậm chí có căn cứ, nhưng chúng có thể hoàn toàn sai.

Trải nghiệm thực tế của người dùng tại Việt Nam cũng đã đưa ra nhiều ví dụ, cho thấy ChatGPT trả lời sai, thậm chí còn “gây cười”. Chẳng hạn như tác phẩm “Tắt đèn” của Nhà văn Ngô Tất Tố, qua câu trả lời của ChatGPT bỗng trở thành một truyện ngắn về chủ đề bảo vệ môi trường. Nhiều câu trả lời của ChatGPT đã bị người dùng “dẫn dắt” dẫn đến việc từ trả lời đúng, ChatGPT bị “lái” theo người dùng dẫn đến trả lời sai.

Từ những trải nghiệm trên, nhiều ý kiến cho rằng, ChatGPT dựa trên dữ liệu khổng lồ do chính các nhà phát triển cung cấp, kể cả từ những nguồn dữ liệu chưa được kiểm chứng tính xác thực, vì vậy không nên quá đặt niềm tin vào ứng dụng này mà hãy có những bước xác nhận cần thiết từ những nguồn chính thống.

Về vấn đề này, TS. Đặng Minh Tuấn, Viện trưởng Viện nghiên cứu ứng dụng CMC, Chủ tịch Liên minh Blockchain Việt Nam, “cha đẻ” của phần mềm Vietkey chia sẻ: Một trong những ưu điểm của ChatGPT là tương tác giữa người với máy thân thiện như người với người, được huấn luyện trên cơ sở dữ liệu lớn nên trả lời được nhiều câu hỏi chỉ trong một thời gian ngắn. Vì vậy, nó hữu ích cho tất cả các lĩnh vực, ngành nghề.

Tuy nhiên, ông Tuấn cho biết, cá nhân ông không sử dụng ChatGPT nhiều. Lý do là đối với công tác nghiên cứu khoa học rất cần sự chính xác, trong khi đó theo thống kê ban đầu chỉ khoảng 70-80% câu trả lời của ChatGPT là có thể chấp nhận được. Ngay chính nhà sáng lập của ChatGPT cũng đã đưa ra cảnh báo, câu trả lời mà ChatGPT đưa ra có thể không đúng; câu trả lời có thể bị thiên kiến, sai lệch do dữ liệu đầu vào chưa đầy đủ. Bên cạnh đó, dữ liệu chỉ mới cập nhật đến năm 2021, nên nếu hỏi những thông tin mới của năm 2023 thì câu trả lời chưa cập nhật.

Cũng theo TS Đặng Minh Tuấn, có một vấn đề cần lưu tâm là ChatGPT có thể kiểm soát tâm lý người dùng, định hướng dư luận hoặc một luồng dư luận. Đơn giản như thông qua việc sắp xếp thứ tự các thông tin, thông qua công nghệ để hiển thị tin tốt, tin xấu, sẽ khó phát hiện hơn.

“Chúng ta không nên cấm đoán sử dụng ChatGPT như một số trường ở Hoa Kỳ bởi với công cụ nào cũng có mặt trái. Tuy vậy, cũng không nên lạm dụng. Chúng ta có thể hỏi nó ở những vấn đề mà trong đầu mình chưa có sự hình dung để tiết kiệm thời gian, để có những dữ liệu ban đầu. Còn đối với những vấn đề cần thông tin chính xác, tra cứu bằng các công cụ khác như Google sẽ dễ kiểm chứng và đỡ mất thời gian hơn”, ông Tuấn chia sẻ.

Ths Triệu Anh Dũng, Phó Giám đốc Trung tâm nghiên cứu BlockchainQNET, giảng viên thỉnh giảng bộ môn An toàn thông tin, Học viện Bưu chính viễn thông Việt Nam cũng cho rằng, bản thân ông đã đồng hành với công cụ này trong phần lớn công việc của mình và có thể nói, ở một khía cạnh nào đó, ChatGPT đã trở thành đồng sự. Tuy vậy, ông Dũng cũng khuyến cáo không nên cho trẻ con dùng ChatGPT bởi ở độ tuổi của các cháu, chưa có thói quen kiểm chứng thông tin.

Trong khi đó, hầu hết các câu trả lời của ChatGPT đều không dẫn nguồn. Nếu trong trường hợp ChatGPT đưa ra câu trả lời sai và các cháu hành động theo câu trả lời thì sẽ rất nguy hiểm.

“Chúng ta hãy nhìn nhận ChatGPT đúng là chính nó, không cười cợt nó song cũng không thần thánh hoá nó. Từ những câu trả lời của ChatGPT sẽ giúp người dùng trích rút được tri thức, dữ liệu trở thành thông tin, có thể sử dụng nó làm dữ liệu tham khảo ban đầu. Tuyệt đối không sử dụng ChatGPT cho các quyết định quan trọng cho cả cá nhân và tổ chức, nhất là khi câu trả lời không có dẫn nguồn”, ông Dũng nêu quan điểm.

Huyền Thanh

Sau quá trình tranh luận của luật sư bào chữa cho các bị cáo và người có quyền lợi nghĩa vụ liên quan, đại diện VKSND Cấp cao tại TP Hồ Chí Minh bảo lưu quan điểm đề nghị án tử hình như bản án sơ thẩm đối với bị cáo Trương Mỹ Lan về tội “Tham ô tài sản”.

Ngày 25/11, tại Hà Nội, Bộ Văn hoá, Thể thao và Du lịch đã tổ chức lễ tổng kết và trao giải cuộc thi tìm hiểu về nội dung cuốn sách của cố Tổng Bí thư Nguyễn Phú Trọng “Xây dựng và phát triển nền văn hóa Việt Nam tiên tiến, đậm đà bản sắc dân tộc”. Tại buổi lễ, Ban tổ chức đã vinh danh 100 tập thể, cá nhân đoạt giải.

Đây là một trong những thủ đoạn lừa đảo xuất hiện trên mạng xã hội vừa được Cục An toàn thông tin, Bộ Thông tin và Truyền thông (TT&TT) cảnh báo tới người dân.

Sau một tuần miệt mài tăng giá, kim loại quý bất ngờ quay đầu ngay khi mở cửa phiên giao dịch tuần mới, mất tới 50 USD/ounce.

Vụ sạt lở đất trong đêm khiến nhà ông Trần Văn Khưa bị sập một phần công trình nhà ở. May mắn 6 người trong nhà chạy ra ngoài kịp thời, riêng ông Khưa và vợ bị các đòn gỗ trên mái nhà rơi xuống gây chấn thương, sau đó được lực lượng chức năng hỗ trợ đưa đến Trạm Y tế sơ cứu.

Cảnh sát Thái Lan đang tiến hành điều tra vụ việc 41 thi thể được phát hiện bên trong một tu viện ở tỉnh Phichit nước này, được cho là có liên quan đến hoạt động thiền định.

Một nhóm người hoạt động khai thác vàng từ 6h sáng hôm trước đến sáng ngày hôm sau trong vườn điều của một người dân tại xã Phú Trung, huyện Phú Riềng, tỉnh Bình Phước. Sau khi sàng lọc quặng vàng được bỏ vào bao tải rồi vận chuyển đi nơi khác.

Sáng 25/11, Cơ quan CSĐT Công an thị xã Tịnh Biên (An Giang) cho biết đã ra quyết định khởi tố vụ án, khởi tố bị can và Lệnh tạm giam đối với Lê Văn Điền (SN 1972, HKTT: tổ 14, ấp Tân Thành, xã Tân Lập, thị xã Tịnh Biên, tỉnh An Giang); Lê Thị Ngọc Nhan (SN 1971, vợ Điền); Lê Phước Sang (SN 1991) và Lê Phước Hoàng (SN 1999, con Điền); Lê Công Triết (SN 1983) và Nguyễn Văn Lộc (SN 1982, cháu Điền) để điều tra về tội “Chống người thi hành công vụ”.

Ngày 25/11, Cơ quan Cảnh sát điều tra Công an tỉnh Bình Phước cho biết đã thực hiện Lệnh bắt bị can để tạm giam đối với Leo Minh Hiếu, SN 1999, thường trú thôn 6, xã Long Bình, huyện Phú Riềng; nơi ở thôn Phước Tân, xã Bình Tân, huyện Phú Riềng. Leo Minh Hiếu bị khởi tố về tội “Tàng trữ trái phép vũ khí quân dụng”.

Từ kết luận của Thanh tra TP Hồ Chí Minh cho thấy, nhiều đơn vị được giao quản lý tài sản công ở khu vực trung tâm TP Hồ Chí Minh xem tài sản nhà nước như của riêng mình. Tự tiện cho thuê khi chưa có đề án và cũng tự tiện sử dụng tiền cho thuê tài sản như thể của riêng đơn vị mình...

©2004. Bản quyền thuộc về Báo Công An Nhân Dân.
®Không sao chép dưới mọi hình thức khi chưa có sự đồng ý bằng văn bản của Báo Công An Nhân Dân.
English | 中文