Những lo ngại từ camera nhận dạng khuôn mặt tội phạm ở Mỹ

• Hệ thống nhận dạng khuôn mặt bị đánh lừa
• Công nghệ nhận dạng khuôn mặt “nhận nhầm” hàng ngàn trường hợp
• Nhận dạng khuôn mặt tại sân bay

Trong những tháng gần đây, một giám đốc công nghệ đã tuyên bố sẽ không bao giờ bán sản phẩm nhận dạng khuôn mặt của mình cho các sở cảnh sát và một giám đốc khác đã kêu gọi Quốc hội can thiệp. Các nhân viên và cổ đông từ một số công ty công nghệ lớn nhất thế giới đã buộc các nhà lãnh đạo của họ phải từ bỏ việc kinh doanh camera nhận dạng khuôn mặt.

Công nghệ lan truyền

Nhận dạng khuôn mặt - sử dụng thuật toán để khớp đặc điểm khuôn mặt trên ảnh và video - đã khá phổ biến hiện nay. Nó được sử dụng để gắn thẻ mọi người trên Facebook, để mở khóa iPhone và PlayStations. Hầu hết người Mỹ trưởng thành đã có sẵn một cơ sở dữ liệu nhận dạng khuôn mặt, kết quả của việc chính phủ định dạng giấy phép lái xe và ảnh hộ chiếu, theo Trung tâm Bảo mật và Công nghệ tại Trung tâm Luật Đại học Georgetown.

Nhiều cơ quan thực thi pháp luật - FBI, Văn phòng Cảnh sát trưởng Hạt Pinellas ở Florida, Cục Điều tra Hình sự Ohio và một số sở tại San Diego - đã sử dụng các cơ sở dữ liệu này trong nhiều năm, điển hình là trong các tình huống tĩnh - so sánh ảnh hoặc video với một cơ sở dữ liệu của Mugshots hoặc giấy phép. 

Hệ thống ở Maryland đã được sử dụng để xác định nghi phạm được cho là đã tàn sát các nhà báo tại tờ báo Capital Gazette vào tháng 5 ở Annapolis và để theo dõi những người biểu tình sau cái chết của Freddie Gray năm 2015 tại Baltimore.

Khi công nghệ tiến bộ, nhận dạng khuôn mặt trực tuyến thời gian thực - bao gồm việc quét liên tục các nguồn cấp dữ liệu video trực tiếp để khớp khuôn mặt chuyển động với cơ sở dữ liệu hình ảnh tĩnh - đang bắt đầu lan rộng. 

Cảnh sát ở Trung Quốc đang sử dụng để tìm nghi phạm trong đám đông và các nhà bán lẻ ở đó đang sử dụng để xác định khách hàng và sở thích mua hàng của họ. 

Các cơ quan an ninh Hoa Kỳ đang thử nghiệm công nghệ tại một số sân bay và cửa khẩu biên giới. Và bây giờ các hệ thống đang được thiết kế để phù hợp với cảnh sát địa phương.

Những lo ngại

Brackeen, người da đen, cho biết, từ lâu ông đã gặp rắc rối với các thuật toán nhận dạng khuôn mặt, cuộc đấu tranh để phân biệt khuôn mặt của những người có làn da tối, và những tác động của chính phủ và cảnh sát. Gần đây ông nói, nếu họ có được nó, đơn giản là không có cách nào mà phần mềm nhận dạng khuôn mặt sẽ không được sử dụng để gây hại cho công dân.

Loại công nghệ nhận dạng khuôn mặt mới này đã làm sâu sắc thêm mối lo ngại về giám sát hàng loạt, nhận dạng nhầm lẫn và nhắm mục tiêu không công bằng của người thiểu số.

Đó là bởi vì nhận dạng khuôn mặt chưa bao giờ hoàn hảo, và có lẽ sẽ không bao giờ chính xác. Không thể nói chắc chắn 100 phần trăm rằng các khuôn mặt trong hai hình ảnh là như nhau; hầu hết các hệ thống hiện tại cung cấp một số điểm cho thấy khả năng trùng khớp. Các cơ quan cảnh sát có thể đặt ngưỡng, tùy thuộc vào mức độ trùng khớp của khuôn mặt mà họ đang tìm kiếm và sau đó quyết định cách hành động theo kết quả.

Độ chính xác của hệ thống phụ thuộc vào một số yếu tố, bắt đầu với dữ liệu được sử dụng để đào tạo các thuật toán. Cơ sở dữ liệu về khuôn mặt và điều kiện càng rộng - những người có tông màu da khác nhau, được chụp ở nhiều góc độ và khoảng cách khác nhau và trong các điều kiện ánh sáng khác nhau - thuật toán sẽ càng chính xác.

Những tiến bộ công nghệ đã cải thiện độ chính xác của các hệ thống nhận dạng khuôn mặt, phát triển từ học máy kiểu cũ, dựa trên so sánh các đặc điểm khuôn mặt nhất định, với mạng nơ ron thần kinh, có cái nhìn toàn diện hơn về khuôn mặt. Nhưng các hệ thống vẫn dễ bị xác định nhầm người của một số chủng tộc nhất định. 

Một nghiên cứu gần đây của MIT cho thấy các thuật toán nhận dạng khuôn mặt được phát triển bởi Microsoft, IBM và Face ++ có trụ sở tại Trung Quốc đã thất bại trong việc xác định phụ nữ da đen thường xuyên hơn nhiều so với đàn ông da trắng. 

Một trong những nhà nghiên cứu của MIT, Joy Buolamwini, cũng đã chỉ ra rằng các hệ thống nhận dạng khuôn mặt không thể xác định giới tính của phụ nữ da đen nổi tiếng, bao gồm Oprah Winfrey, Serena Williams và Michelle Obama.

Những quy định mới

Có một số quy định ở cấp liên bang, tiểu bang hoặc địa phương liên quan đến việc thực thi pháp luật sử dụng nhận dạng khuôn mặt. Các trường hợp ngoại lệ bao gồm bang Oregon và New Hampshire, cấm nhận dạng khuôn mặt trên máy ảnh của cảnh sát, Maine và Vermont, nghiêm cấm sử dụng công nghệ với máy bay không người lái của cảnh sát. 

Sáu tiểu bang - Maine, Missouri, New Hampshire, Vermont, Washington, Oregon và Hawaii - hạn chế thực thi khả năng sử dụng cơ sở dữ liệu giấy phép lái xe cho các hệ thống nhận dạng khuôn mặt, theo Garvie, thuộc Trung tâm Bảo mật và Công nghệ Georgetown.

Một vài chính quyền địa phương cũng đã bắt đầu thực hiện chính sách này. Trong số đó có Oakland, California, nơi yêu cầu đầu vào công khai về bất kỳ đề xuất nào để có được hệ thống giám sát của chính phủ và Seattle, Washington, trong đó hạn chế cảnh sát sử dụng nhận dạng khuôn mặt để so sánh hình ảnh của nghi phạm với hình ảnh tù nhân - và cấm quét video theo thời gian thực cảnh quay để tìm trận đấu trong cơ sở dữ liệu đó.

Cuộc đua công nghệ

Axon, nhà cung cấp máy ảnh cơ quan cảnh sát lớn nhất đất nước - một ngày nào đó có thể được trang bị các công cụ nhận dạng khuôn mặt để quét khuôn mặt từ một viên cảnh sát trên giường - cũng đã thừa nhận mối quan tâm của nhận dạng khuôn mặt theo thời gian thực. 

Axon đã thành lập một hội đồng đạo đức gồm các chuyên gia bên ngoài để hướng dẫn công ty khi họ khám phá việc sử dụng trí thông minh nhân tạo, bao gồm việc nộp đơn xin cấp bằng sáng chế - được phát hiện gần đây bởi một cơ quan giám sát công nghệ - cho hệ thống nhận diện khuôn mặt thời gian thực. 

Gần bốn mươi nhóm dân quyền đã gửi một bức thư ngỏ tới hội đồng quản trị hồi đầu năm nay kêu gọi công ty từ chối bất kỳ sản phẩm nào cho phép máy ảnh có thể sử dụng nhận dạng khuôn mặt theo thời gian thực. Axon đã nhiều lần nói rằng họ hiện không làm việc để phát triển nhận dạng khuôn mặt cho các thiết bị của mình.

"Chúng tôi thấy nhận dạng khuôn mặt là một công nghệ rất hứa hẹn nhưng cũng không kém phần nguy hiểm", ông Steve Tuttle, phát ngôn viên của Axon, cho biết trong một email phản hồi tin tức về bằng sáng chế. "Chúng tôi thấy tương lai của nhận dạng khuôn mặt, với các điều khiển đúng và đủ chính xác, có thể làm giảm sự thiên vị và tăng sự công bằng trong việc trị an. Tuy nhiên, chúng tôi đã quyết định ngừng đầu tư phát triển công nghệ này cho đến khi chúng tôi hiểu rõ hơn các kiểm soát cần thiết và ngưỡng chính xác để đảm bảo lợi ích của nó vượt xa đáng kể chi phí và rủi ro".

Tập đoàn NEC của Mỹ, một nhà phát triển lớn của các hệ thống nhận diện khuôn mặt, cũng đang xem xét liệu có nên tạo ra một ban đạo đức hay không, Benji Hutchinson, phó chủ tịch hoạt động liên bang cho biết. Công ty đang tiếp thị một sản phẩm nhận dạng khuôn mặt thời gian thực cho cảnh sát Mỹ, nhưng đã bán công nghệ đó cho các cơ quan thực thi pháp luật ở nơi khác, ông nói.

"Chúng tôi nghe các cuộc thảo luận về quyền riêng tư và chúng tôi nhạy cảm với nó", Hutchinson nói. "Tập đoàn NEC "chúng tôi quan tâm đến việc cân bằng quyền của công dân đối với quyền riêng tư và việc bảo vệ an toàn công cộng".

Một tay chơi lớn khác, Amazon, đã bị sa thải sau khi Liên minh Tự do Dân sự Hoa Kỳ Bắc California tiết lộ công ty cố gắng bán phần mềm nhận dạng khuôn mặt của mình cho lực lượng cảnh sát Mỹ. 

Các phát hiện bao gồm một thỏa thuận với Orlando, Florida, nơi bảy sĩ quan đã tình nguyện trở thành đối tượng trong một cuộc thử nghiệm hệ thống có thể quét các nguồn cấp dữ liệu trực tiếp từ camera giám sát và xác định xem có ai trong ảnh khớp với ảnh trong cơ sở dữ liệu của những người bị mất hoặc muốn mất tích hay không.