Xử lý các trường hợp sử dụng AI để cắt ghép, biên tập video sai sự thật, gây nhiễu loạn thông tin

Theo Công an tỉnh Phú Thọ, thực hiện chỉ đạo của Bộ Công an và Tỉnh ủy, UBND tỉnh Phú Thọ, Công an tỉnh đã triển khai đồng bộ các biện pháp nghiệp vụ, tăng cường công tác rà soát, theo dõi, nắm tình hình trên không gian mạng, nhất là các nền tảng mạng xã hội có đông người sử dụng.

Qua đó, từ đầu năm 2025 đến nay, Công an tỉnh đã xử lý nhiều trường hợp sử dụng mạng xã hội Faccebook thực hiện hành vi đăng tải tin, bài có nội dung thông tin xấu độc, sai sự thật, xúc phạm uy tín của cơ quan, tổ chức, thu thập, xử lý và sử dụng thông tin của tổ chức, cá nhân khác mà không được sự đồng ý hoặc sai mục đích theo quy định của pháp luật…, ra quyết định xử phạt vi phạm hành chính đối với 35 trường hợp với tổng số tiền 202 triệu đồng.

Đáng chú ý, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao, Công an tỉnh Phú Thọ đã kịp thời phát hiện, xử lý trường hợp sử dụng công nghệ trí tuệ nhân tạo (AI) để cắt ghép, biên tập video sai sự thật, gây nhiễu loạn thông tin. Đơn cử, cuối năm 2025, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao đã phát hiện tài khoản Facebook “L. V.” thường xuyên đăng tải, chia sẻ một số bài viết, video sử dụng công nghệ trí tuệ nhân tạo AI cắt ghép… có nội dung xuyên tạc, sai sự thật trên trang cá nhân của đối tượng phản động Lê Trung Khoa, tiềm ẩn nguy cơ ảnh hưởng xấu đến tình hình ANTT trên địa bàn.

Thông qua các biện pháp nghiệp vụ, lực lượng chức năng đã nhanh chóng xác định tài khoản Facebook nêu trên do V.V.L (SN 1970), trú tại thôn Đại Phúc 2, xã Xuân Lãng, tỉnh Phú Thọ quản lý. Ngay sau đó, tổ công tác của Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao phối hợp Công an xã Xuân Lãng tiến hành làm việc với ông V.V.L.

Quá trình làm việc, ông này khai nhận do hay xem các thông tin thời sự, chính trị, khi gặp những thông tin cảm thấy tò mò, thú vị thì chia sẻ về trang cá nhân mà không để ý nguồn gốc của các bài viết, hình ảnh. Sau khi được lực lượng chức năng phân tích, làm rõ tính chất, mức độ vi phạm, ông V.V.L đã nhận thức được hành vi sai trái, tự giác gỡ bỏ các nội dung vi phạm và cam kết không tái phạm.

Thực hiện chỉ đạo của Ban Giám đốc Công an tỉnh, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao; Công an xã, phường xác định lấy phòng ngừa là chính, do đó luôn chú trọng công tác tuyên truyền, phổ biến pháp luật về an ninh mạng, nâng cao ý thức trách nhiệm của cán bộ, đảng viên và nhân dân khi tham gia không gian mạng. Thông qua các buổi tuyên truyền tại cơ sở, trên các phương tiện thông tin đại chúng, hệ thống truyền thông nội bộ…  hướng dẫn người dân nâng cao nhận thức và kỹ năng tham gia không gian mạng an toàn, đúng quy định pháp luật.

Mới đây, cán bộ Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao đã chia sẻ, cảnh báo việc sử dụng AI Gemini phục chế ảnh: “Có một người gửi tin nhắn cảnh báo, bạn ấy sử dụng trình phục chế ảnh cũ AI Gemini cho người nhà là cựu chiến binh, hình ảnh cơ bản tốt, nhưng cờ Việt Nam trên huy chương biến thành cờ vàng 3 sọc. Thủ đoạn quá tinh vi, không rõ bị can thiệp từ thế lực nào. Nếu mọi người sử dụng với mục đích tương tự thì cảnh giác”.

Hay thời gian gần đây, trên mạng xã hội xuất hiện một số bài đăng, lan truyền hình ảnh được cho là lực lượng CSGT “ăn mừng sau một ngày làm việc thành công”, kèm theo hình ảnh các cọc tiền nhằm ám chỉ hành vi tiêu cực. Những nội dung này nhanh chóng thu hút sự chú ý, được chia sẻ và bình luận theo hướng suy diễn, gây dư luận không tốt. Trước vấn đề này, Công an phường Vĩnh Phúc (Phú Thọ) đã khẩn trương đưa thông tin nhận diện, cảnh báo đến người dân.

Theo đó, qua quan sát có thể nhận thấy các hình ảnh trên có nhiều dấu hiệu bị cắt ghép, không phản ánh thực tế. Phần hình ảnh một nhóm người mặc trang phục giống lực lượng CSGT chụp tại bàn ăn được ghép với các hình ảnh về tiền bạc từ nguồn khác. Sự khác biệt rõ rệt về ánh sáng, góc chụp, màu sắc và bố cục cho thấy các chi tiết này không thuộc cùng một bối cảnh, mà được chèn ghép có chủ đích nhằm tạo ấn tượng sai lệch.

Trang phục trong ảnh cũng bộc lộ nhiều điểm không đúng quy định của lực lượng CAND. Một số chi tiết như phù hiệu, cầu vai, vị trí gắn biển tên không đồng nhất, bố trí thiếu chuẩn xác, thậm chí có dấu hiệu bị cắt ghép từ nhiều nguồn ảnh khác nhau. Đây là những đặc điểm thường thấy trong các sản phẩm chỉnh sửa, giả mạo hình ảnh lực lượng chức năng.

Cũng theo Công an phường Vĩnh Phúc, đối với các hình ảnh về tiền được chèn vào, sự khác biệt về ánh sáng, độ sắc nét và góc chụp càng cho thấy đây là chi tiết được đưa vào nhằm tạo hiệu ứng tiêu cực, dẫn dắt người xem hiểu sai sự thật. Việc sử dụng thủ đoạn này thể hiện rõ mục đích xuyên tạc, gây hoang mang dư luận và làm giảm niềm tin của người dân đối với lực lượng Công an. Trước những thông tin có dấu hiệu nghi vấn, người dân cần giữ thái độ tỉnh táo, kiểm chứng thông tin từ các nguồn chính thống trước khi tin tưởng, chia sẻ hoặc bình luận. Đồng thời, khi phát hiện các nội dung xuyên tạc, bịa đặt liên quan đến lực lượng CAND, người dùng mạng xã hội cần chủ động báo cáo vi phạm, góp phần ngăn chặn, xử lý các hành vi đăng tải thông tin sai sự thật.

Bên cạnh việc tuyên truyền trên nền tảng mạng xã hội, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao đã phối hợp với các trường học tổ chức các buổi tuyên truyền, phổ biến cho học sinh những kiến thức bảo vệ dữ liệu cá nhân, các kỹ năng, biện pháp bảo vệ thông tin trên không gian mạng; giới thiệu phương thức, thủ đoạn phổ biến của tội phạm công nghệ cao cắt ghép hình ảnh, lừa đảo qua mạng xã hội, giả mạo đường link, chiếm đoạt tài khoản, đánh cắp thông tin cá nhân…

Thời gian tới, Công an tỉnh Phú Thọ sẽ tiếp tục tuyên truyền, khuyến cáo, nâng cao nhận thức, trách nhiệm của người dân khi tiếp cận và chia sẻ thông tin trên không gian mạng. Đây là một trong những yếu tố quan trọng, góp phần bảo đảm ổn định tình hình ANTT trên địa bàn.