Hệ thống nhận dạng khuôn mặt bị đánh lừa
- Công nghệ nhận dạng khuôn mặt “nhận nhầm” hàng ngàn trường hợp
- Nhận dạng khuôn mặt tại sân bay
- Tranh cãi về chương trình nhận dạng khuôn mặt
Thử nghiệm được thực hiện bởi công ty trí tuệ nhân tạo Kneron, liên quan đến việc truy cập các địa điểm công cộng và lừa các thiết bị đầu cuối nhận dạng khuôn mặt để cho phép thanh toán hoặc truy cập. Ví dụ, trong các cửa hàng ở châu Á, nơi công nghệ nhận dạng khuôn mặt được triển khai rộng rãi, nhóm Kneron đã sử dụng mặt nạ 3 chiều chất lượng cao để đánh lừa hệ thống thanh toán AliPay và WeChat để mua hàng.
Các hệ thống đó, giống với các hệ thống được nhìn thấy trong sân bay, sử dụng khuôn mặt của một người thay vì mã PIN hoặc dấu vân tay để xác thực danh tính của người dùng. Về mặt lý thuyết, mặt nạ như vậy có thể cho phép những kẻ lừa đảo sử dụng tài khoản của người khác và tài khoản ngân hàng để đi mua sắm.
Đáng báo động hơn là các thử nghiệm được triển khai tại các trung tâm giao thông. Tại nhà ga tự lên máy bay ở sân bay Schiphol, sân bay lớn nhất của Hà Lan, nhóm Kneron đã đánh lừa cảm biến chỉ bằng một bức ảnh trên màn hình điện thoại. Nhóm nghiên cứu cũng cho biết họ có thể có quyền truy cập theo cách này đến các nhà ga đường sắt ở Trung Quốc, nơi những người đi làm sử dụng nhận dạng khuôn mặt để trả tiền vé và lên tàu.
Các thí nghiệm giao thông vận tải gây lo ngại về khủng bố tại thời điểm các cơ quan an ninh đang khám phá nhận dạng khuôn mặt như một phương tiện tiết kiệm tiền và nâng cao hiệu quả. Trong trường hợp máy tính bảng thanh toán, khả năng đánh lừa WeChat và AliPay bằng mặt nạ làm tăng sự ám ảnh của gian lận và trộm danh tính.
Trong trường hợp đeo mặt nạ, sự lừa dối đạt hiệu quả vì hệ thống nhận dạng khuôn mặt đã chứa hình ảnh của người có mặt trên mặt nạ. Tuy nhiên, Kneron thừa nhận rằng sự gian lận như vậy khó có thể lan rộng vì những cái được sử dụng trong thí nghiệm được lấy từ các nhà sản xuất mặt nạ đặc biệt ở Nhật Bản. Nhưng công ty có trụ sở tại San Diego lưu ý kỹ thuật này có thể được sử dụng để lừa gạt những cá nhân nổi tiếng hoặc giàu có.
"Điều này cho thấy mối đe dọa đối với quyền riêng tư của người dùng với tính năng nhận dạng khuôn mặt phụ đang giả dạng là AI", Giám đốc điều hành của Kneron, Albert Liu cho biết. "Công nghệ có sẵn để khắc phục những vấn đề này nhưng các công ty đã không nâng cấp nó. Họ đang sử dụng các cách tiết kiệm và trả giá là khả năng bảo mật".
Kneron đã tiến hành các thí nghiệm để tìm hiểu về những hạn chế của công nghệ trong khi phát triển công nghệ nhận dạng khuôn mặt của chính nó. Công ty, được lãnh đạo bởi các nhà đầu tư cao cấp bao gồm Qualcomm và Sequoia Capital, đang tạo ra cái gọi là "Edge AI", một công cụ trí tuệ nhân tạo thực hiện công việc nhận dạng cá nhân hoàn toàn trên các thiết bị thay vì các dịch vụ dựa trên đám mây. Kneron cũng lưu ý rằng các thử nghiệm của họ không thể đánh lừa một số ứng dụng nhận dạng khuôn mặt, đặc biệt là iPhone X của Apple.
Thử nghiệm của công ty đến vào thời điểm tranh luận gay gắt về cách triển khai nhận diện khuôn mặt. Nhà văn Fortune, Robert Hackett, chẳng hạn, gần đây đã viết về việc ông đã từ chối sử dụng công nghệ này để vào văn phòng New York của ấn phẩm, với lý do lo ngại về quyền riêng tư.
Rộng hơn, độ tin cậy của nhận dạng khuôn mặt và trí tuệ nhân tạo đã được xem xét kỹ lưỡng. Các nhà khoa học máy tính, trong một thí nghiệm tương tự như của Kneron, gần đây đã đánh lừa các cảm biến khuôn mặt bằng cách sử dụng hình ảnh từ Facebook. Và trong một nghiên cứu năm 2017 được báo cáo rộng rãi, các nhà nghiên cứu của MIT đã chỉ ra cách trí thông minh nhân tạo của Google nhầm lẫn hình ảnh của một con rùa với một khẩu súng trường.
Trong khi đó, trí tuệ nhân tạo cũng đã sản xuất các công cụ có thể dễ dàng tái tạo dấu vân tay của người khác, nhấn mạnh hơn nữa cách thức các công cụ sinh trắc học mà chúng ta ngày càng tin tưởng không an toàn như nhiều người tin.