Dùng trí tuệ nhân tạo dự báo tội phạm, khủng bố có thực sự hiệu quả?

Biến đổi cách cảnh sát điều tra

Sarah là nạn nhân của bạo hành gia đình và cô đang gọi điện cho một nhân viên tổng đài khẩn cấp 999. Cô ấy sợ hãi và buồn bã vì chồng cũ của cô ấy đang cố đột nhập vào nhà cô ấy. Trong khi Sarah đang nói chuyện với một người, cuộc gọi cũng được phiên âm bởi một hệ thống phần mềm AI, một hệ thống liên kết trực tiếp đến cơ sở dữ liệu của cảnh sát Vương quốc Anh. Khi cô ấy nói với nhân viên tổng đài tên chồng mình và ngày sinh của anh ta, AI nhanh chóng lấy thông tin chi tiết về anh ta.

Hệ thống nhấp nháy thông báo rằng, người đàn ông đó có giấy phép sử dụng súng, điều đó có nghĩa là cảnh sát cần phải đến nhà càng sớm càng tốt. Mặc dù các cuộc gọi khẩn cấp về bạo hành gia đình rất đáng buồn là quá phổ biến, nhưng may mắn thay, ví dụ trên không phải là một tình huống thực tế. Thay vào đó, đó là một bài kiểm tra mô phỏng, một phần trong thử nghiệm phần mềm tổng đài khẩn cấp AI kéo dài 3 tháng của cảnh sát Humberside vào năm 2024.

AI được cung cấp bởi công ty khởi nghiệp Untrite AI của Anh và được thiết kế để xử lý hàng nghìn cuộc gọi nhận được mỗi ngày hiệu quả hơn. Hệ thống được thực nghiệm dựa trên dữ liệu lịch sử trong 2 năm - tất cả đều liên quan đến các cuộc gọi bạo hành gia đình - do Humberside cung cấp. "Chúng tôi bắt đầu xây dựng một trợ lý cho các tổng đài viên để giúp công việc của họ dễ dàng hơn một chút, vì đây là môi trường căng thẳng và nhạy cảm về thời gian", Kamila Hankiewicz, Giám đốc điều hành kiêm đồng sáng lập của Untrite cho biết.

Giảm thiểu những phức tạp và thời gian

"Mô hình AI phân tích rất nhiều thông tin, bản ghi và âm thanh của cuộc gọi, rồi đưa ra điểm phân loại, có thể thấp, trung bình hoặc cao. Điểm cao có nghĩa là phải có cảnh sát tại hiện trường trong vòng 5 hoặc 10 phút".

Untrite cho biết thử nghiệm cho thấy phần mềm có thể giúp các tổng đài viên tiết kiệm gần 1/3 thời gian, cả trong và sau mỗi cuộc gọi. Các công ty công nghệ khác hiện cũng cung cấp hệ thống phần mềm cuộc gọi khẩn cấp hỗ trợ AI bao gồm các doanh nghiệp Hoa Kỳ Corti và Carbyne. Giai đoạn tiếp theo của Untrite sẽ là sử dụng AI của mình trong môi trường thực tế và công ty đang đàm phán với một số lực lượng cảnh sát và các dịch vụ khẩn cấp khác để biến điều đó thành hiện thực. AI có tiềm năng biến đổi cách cảnh sát điều tra và giải quyết tội phạm. Nó có thể xác định các mô hình và liên kết trong bằng chứng, và sàng lọc lượng lớn dữ liệu nhanh hơn nhiều so với bất kỳ con người nào.

Những lo ngại

Nhưng chuyên gia đã thấy những sai lầm trong việc sử dụng công nghệ của cơ quan thực thi pháp luật. Ví như, có rất nhiều báo cáo ở Hoa Kỳ vào năm 2024 về phần mềm nhận dạng khuôn mặt hỗ trợ AI không xác định chính xác khuôn mặt người da đen. Một số thành phố của Hoa Kỳ, chẳng hạn như San Francisco và Seattle, đã cấm sử dụng công nghệ này. Tuy nhiên, công nghệ này ngày càng được lực lượng cảnh sát ở cả hai bờ Đại Tây Dương sử dụng. Albert Cahn, Giám đốc điều hành của nhóm chống giám sát Hoa Kỳ, Dự án giám sát công nghệ giám sát (Stop), không hài lòng với sự phát triển này. "Chúng tôi đã chứng kiến sự đầu tư lớn vào và sử dụng công nghệ nhận dạng khuôn mặt mặc dù có bằng chứng cho thấy công nghệ này phân biệt đối xử với người da đen, người Mỹ Latinh và người châu Á, đặc biệt là phụ nữ da đen", ông nhấn mạnh.

Công nghệ như vậy có thể được sử dụng theo 3 cách chính. Đầu tiên là nhận dạng khuôn mặt trực tiếp, so sánh nguồn cấp dữ liệu khuôn mặt trực tiếp từ camera với danh sách theo dõi được xác định trước. Thứ hai là nhận dạng khuôn mặt hồi tố, so sánh hình ảnh tĩnh của khuôn mặt với cơ sở dữ liệu hình ảnh. Và thứ ba là nhận dạng khuôn mặt do người vận hành khởi tạo, trong đó cảnh sát chụp ảnh nghi phạm và gửi ảnh đó để tìm kiếm trong cơ sở dữ liệu hình ảnh.

Tháng 10/2024, Bộ trưởng Cảnh sát Anh Chris Philp cho biết, lực lượng cảnh sát Anh nên tăng gấp đôi số lần tìm kiếm bằng công nghệ nhận dạng khuôn mặt hồi tố trong năm tới. Trong khi đó, Phòng thí nghiệm Vật lý Quốc gia (NPL) của Anh năm 2024 đã tiến hành thử nghiệm độc lập 3 loại công nghệ nhận dạng khuôn mặt, tất cả đều được lực lượng cảnh sát Metropolitan và South Wales sử dụng. NPL, cơ quan chính thức của Anh để thiết lập các tiêu chuẩn đo lường, đã kết luận rằng mức độ chính xác đã được cải thiện đáng kể trong các phiên bản mới nhất của phần mềm.

Tuy nhiên, cơ quan này cũng lưu ý rằng trong một số trường hợp, nó có nhiều khả năng đưa ra nhận dạng dương tính giả đối với khuôn mặt người da đen so với khuôn mặt người da trắng hoặc người châu Á, điều mà NPL mô tả là "có ý nghĩa thống kê". Tất nhiên, đây là tin tốt khi các cuộc thử nghiệm độc lập đang diễn ra và Sở Cảnh sát West Midlands đã tiến thêm một bước nữa, thành lập ủy ban đạo đức của riêng mình để đánh giá các công cụ công nghệ mới. Cơ quan này bao gồm các nhà khoa học dữ liệu và do Giáo sư Marion Oswald, Giáo sư luật tại Đại học Northumbria làm chủ tịch.

Bà nói với BBC rằng, ủy ban hiện đang đánh giá việc sử dụng một công cụ nhận dạng khuôn mặt mới cụ thể cho phép cảnh sát chụp ảnh nghi phạm và so sánh với danh sách theo dõi. "Chúng tôi khuyến nghị rằng cần phải có nhiều phân tích hơn về tính hợp lệ của nó", bà nói. Một lĩnh vực quan trọng khác của hoạt động cảnh sát mà AI có thể chuyển đổi là phòng ngừa. Hay cụ thể hơn là khả năng tiềm ẩn của nó trong việc dự đoán tội phạm có thể xảy ra ở đâu và ai có thể phạm tội. Mặc dù điều này có thể gợi lên hình ảnh của bộ phim khoa học viễn tưởng kinh dị Minority Report năm 2002, nhưng ý tưởng này không còn chỉ là giấc mơ của Hollywood nữa.

Rất đáng lo ngại?

Một nhóm tại Đại học Chicago, Mỹ đã phát triển một thuật toán tuyên bố có thể dự đoán tội phạm trong tương lai trước một tuần với độ chính xác 90%. Nhưng, với câu nói cũ rằng, hệ thống AI chỉ tốt bằng dữ liệu mà chúng được cung cấp, một số người đã bày tỏ mối lo ngại lớn.

Ông Cahn của Stop cho biết "tội lỗi ban đầu" của hoạt động cảnh sát dự đoán là "dữ liệu lịch sử thiên vị". Ông nói thêm: "Ở Hoa Kỳ, chúng tôi thấy rất nhiều công cụ dự đoán tội phạm triển khai thô sơ các thuật toán để cố gắng dự đoán tội phạm sẽ xảy ra ở đâu trong tương lai, thường gây ra hậu quả thảm khốc". Ông nói thêm rằng điều này thật tai hại vì "Hoa Kỳ có dữ liệu tội phạm khét tiếng là rất tệ".

Giáo sư Oswald đồng ý rằng việc sử dụng AI để dự đoán tội phạm là rất đáng lo ngại. "Có mối lo ngại về vòng phản hồi rằng bạn không thực sự dự đoán tội phạm, bạn chỉ dự đoán khả năng bị bắt giữ", cô nói. "Vấn đề là bạn đang so sánh một người với những người đã phạm tội tương tự trong quá khứ, nhưng chỉ dựa trên một tập hợp thông tin rất hạn chế. Vì vậy, không phải về tất cả các yếu tố khác của họ và những điều khác về cuộc sống của họ mà bạn có thể cần biết để đưa ra quyết định về một ai đó".

Sử dụng thường xuyên hơn trong chống khủng bố

Bộ Nội vụ Liên bang Đức đang có kế hoạch cho phép Cục Cảnh sát hình sự Liên bang (BKA) và Cảnh sát Liên bang (Bundespolizei) sử dụng các phần mềm nhận dạng khuôn mặt để truy tìm nghi phạm trong tương lai.

Người phát ngôn Bộ Nội vụ Đức xác nhận nội dung trên đã được Bộ trưởng Nội vụ liên bang Nancy Faeser đưa vào dự thảo luật. Các nhà điều tra sẽ có thể so sánh video trên Internet về các thành viên của tổ chức Nhà nước Hồi giáo (IS) tự xưng với hình ảnh trên mạng xã hội để thu thập thông tin về nơi trú ẩn của các tay súng Hồi giáo.

Dự thảo luật nêu rõ: "Các cơ quan an ninh cần được sử dụng sức mạnh của công nghệ hiện đại để xác định và định vị các nghi phạm và mối đe dọa một cách nhanh chóng và hiệu quả, đặc biệt là trong lĩnh vực chống khủng bố, tội phạm nghiêm trọng và có tổ chức". Các cơ quan điều tra của Đức lâu nay đã đề nghị cho phép sử dụng các công cụ hiện đại này. Đề nghị đã có thêm sự ủng hộ sau vụ bắt giữ cựu thành viên tổ chức khủng bố Nhóm Quân đội Đỏ (RAF) Daniela Klette.

Nhiều tháng trước đó, một nhà báo người Canada đã dùng công nghệ nhận dạng khuôn mặt trên Internet để tìm những bức ảnh cũ nghi là của Klette và các nhóm nhảy liên quan đối tượng này ở Berlin. Dự kiến, thay đổi luật vẫn cần phải được nội các và Quốc hội Đức thông qua, để cho phép các nhà điều tra so sánh sinh trắc học với dữ liệu hình ảnh trên Internet và cho phép phân tích dữ liệu tự động bằng AI.

Ngoài khuôn mặt, các đặc điểm sinh trắc học cũng có thể bao gồm giọng nói hoặc dáng đi của một người. Tuy nhiên, theo Bộ Nội vụ Đức, nhận dạng khuôn mặt theo thời gian thực trong không gian công cộng - ví dụ như thông qua video giám sát tại các nhà ga - vẫn chưa được đề cập trong dự thảo.