Dùng AI để phát hiện tội phạm mạng

Hệ thống mang tên của “nữ thần lừa dối”

Một hệ thống mới do trí tuệ nhân tạo (AI) điều khiển tạo ra những nạn nhân giả đầy thuyết phục dưới dạng chatbot đa ngôn ngữ trong nỗ lực khắc phục hậu quả ước tính 55 tỷ USD mà những nạn nhân bị mất mỗi năm vào tay kẻ trộm.

Được đặt tên là Apate - theo tên nữ thần lừa dối của Hy Lạp - hệ thống sẽ “lừa đảo… những kẻ lừa đảo“, sử dụng các bản sao giọng nói thuyết phục nhằm thực hiện những cuộc trò chuyện với kẻ lừa đảo thực sự.

Giáo sư Dali Kaafar, Giám đốc Điều hành Trung tâm An ninh Mạng Đại học Macquarie, cho biết: “Những vụ lừa đảo qua điện thoại do các nhóm tội phạm có tổ chức điều hành và hiện chỉ có một phần nhỏ tội phạm bị bắt và số tiền hiếm khi được thu hồi”.

Ý tưởng đến với Giáo sư Kaafar khi đang ăn trưa cùng gia đình thì một kẻ lừa đảo gọi điện. Ông giả vờ thú vị và cố gắng giữ chân kẻ lừa đảo trong 40 phút. Giáo sư Dali kể: “Tôi nhận ra rằng, trong khi tôi đã lãng phí thời gian của kẻ lừa đảo để chúng không thể tiếp cận những người dễ bị tổn thương, thì đó chính là vấn đề - đó cũng là 40 phút của cuộc đời tôi mà tôi sẽ không lấy lại được. Sau đó, tôi bắt đầu nghĩ về cách chúng tôi có thể tự động hóa toàn bộ quy trình và sử dụng công cụ xử lý ngôn ngữ tự nhiên để phát triển một chatbot trên máy vi tính có thể dàn dựng một cuộc trò chuyện đáng tin cậy với kẻ lừa đảo”.

Giáo sư Kaafar cho biết nhóm của ông hiện đang chờ cấp bằng sáng chế cho công nghệ hiệu quả cao này: “Chúng tôi rất vui mừng về tiềm năng công nghệ mới này trong việc chủ động phá vỡ mô hình kinh doanh gọi điện lừa đảo và làm cho nó không sinh lãi”. Hoạt động buôn bán lừa đảo qua điện thoại toàn cầu cực kỳ sinh lợi đang tăng lên hàng năm.

Giáo sư Kaafar cho biết những vụ lừa đảo qua điện thoại đang gia tăng trên toàn cầu vì một số lý do. Công nghệ như giao thức thoại qua Internet (VOIP) giúp tội phạm mạng che giấu vị trí của chúng dễ dàng và rẻ tiền, giả vờ gọi từ bất kỳ số nào. Trong khi đó, về mặt công nghệ, việc cập nhật cơ sở hạ tầng viễn thông và giao thức để cải thiện tính xác thực của cuộc gọi là rất khó khăn và tốn kém.

Giáo sư giải thích: “Về mặt tài chính, đó là một tỷ lệ lãi cao, chi phí thấp đối với những kẻ lừa đảo, hoạt động này rất sinh lợi và là một hoạt động tội phạm có rủi ro tương đối thấp - và nạn nhân rất khó lấy lại được số tiền đã mất.

Mô hình kinh doanh của những kẻ lừa đảo dựa vào việc kiếm được lợi nhuận lớn từ một số ít nạn nhân; chỉ một tỷ lệ nhỏ trong số hàng nghìn cuộc gọi mà chúng thực hiện mỗi tuần là thành công. Mô hình của chúng tôi ràng buộc chúng, làm lãng phí thời gian của chúng và giảm số vụ lừa đảo thành công. Chúng tôi có thể phá vỡ mô hình kinh doanh của chúng và khiến chúng khó kiếm tiền hơn nhiều”.

APATE được tạo ra như thế nào?

Nhóm nhà khoa học từ Trung tâm An ninh Mạng Đại học Macquarie bắt đầu bằng cách phân tích một loạt cuộc gọi điện thoại lừa đảo và xác định chính xác các kỹ thuật xã hội mà những kẻ lừa đảo sử dụng đối với nạn nhân của chúng, sử dụng các kỹ thuật máy học và xử lý ngôn ngữ tự nhiên để xác định những “kịch bản” lừa đảo điển hình.

Sau đó, họ đào tạo các chatbot trên một bộ dữ liệu về các cuộc trò chuyện lừa đảo trong thế giới thực, từ bản ghi âm cuộc gọi lừa đảo đến bản ghi email lừa đảo và nhật ký trò chuyện từ mọi nền tảng truyền thông xã hội cho phép bot tạo những cuộc hội thoại của riêng nó giống với mọi cuộc gọi lừa đảo trong thế giới thực.

Giáo sư Kaafar cho biết những tiến bộ trong Xử lý ngôn ngữ tự nhiên (NLP) và sao chép giọng nói con người bằng AI cho phép họ phát triển những tác nhân AI có khả năng nói trôi chảy, đồng thời có thể áp dụng một tính cách cụ thể và đi đúng hướng trong cuộc trò chuyện, nhất quán một cách thuyết phục trong các câu trả lời của họ.

Giáo sư Kaafar giải thích: “Các bot AI đàm thoại mà chúng tôi phát triển đánh lừa những kẻ lừa đảo nghĩ rằng chúng đang nói chuyện với nạn nhân”. Những bot này có thể được đào tạo bằng bất kỳ ngôn ngữ hoặc giọng nói nào và vì lừa đảo qua điện thoại là một thách thức toàn cầu nên công nghệ này có thể được triển khai ở mọi nơi trên thế giới.

Nhóm hiện đang thử nghiệm các bot trò chuyện trong những cuộc gọi lừa đảo trực tiếp, chuyển hướng cuộc gọi dành cho nạn nhân sang nguyên mẫu thử nghiệm của họ - một “honeypot luôn hoạt động” - với nhiều loại diện mạo khác nhau.

Giáo sư Kaafar bình luận: “Chúng tôi đặt những số bẩn này trên khắp Internet, đưa chúng vào một số ứng dụng spam hoặc xuất bản chúng trên các trang web, v.v., để khiến chúng có nhiều khả năng nhận được nhiều cuộc gọi lừa đảo hơn. Chúng tôi nhận thấy nhóm bot phản ứng khá tốt với một số tình huống phức tạp mà chúng tôi không mong muốn xảy ra, với những kẻ lừa đảo yêu cầu thông tin mà chúng tôi không huấn luyện các bot - nhưng nhóm bot đang thích nghi và đưa ra những phản hồi rất đáng tin cậy. Nhóm bot liên tục học cách kéo các cuộc gọi ra ngoài để đáp ứng mục tiêu chính của chúng: giữ chân bọn lừa đảo trên đường dây lâu hơn”.

Việc triển khai công cụ bot Apate hiện tại mất trung bình 5 phút và mục tiêu là đưa chúng đến 40 phút. Bot chống lừa đảo cũng góp phần cung cấp thông tin tình báo về mối đe dọa - thông tin kịp thời được thu thập về lừa đảo qua điện thoại hiện tại và mục tiêu của chúng; điều này giúp các tổ chức như ngân hàng lớn, nhà bán lẻ và cơ quan chính phủ cảnh báo khách hàng.

Giáo sư Kaafar cho biết nhóm nghiên cứu đang thảo luận với một số nhà cung cấp viễn thông và sẵn sàng cho một số quan hệ đối tác thương mại. Giáo sư Kaafar kết luận: “Hợp tác với các nhà cung cấp truyền thông sẽ là chìa khóa để làm cho điều này thực sự hiệu quả”.