Tuy nhiên, kênh chính của Haotian đã biến mất sau khi tạp chí Wired (Mỹ) điều tra việc những kẻ lừa đảo dùng ứng dụng này.
Haotian, ứng dụng Trí tuệ nhân tạo (AI) tiếng Trung, hoạt động hiệu quả đến mức đã kiếm được hàng triệu USD nhờ bán công nghệ hoán đổi khuôn mặt trên Telegram. Dịch vụ này dễ dàng tích hợp với các nền tảng nhắn tin như WhatsApp và WeChat, đồng thời tuyên bố người dùng có thể tinh chỉnh tới 50 thiết lập, gồm cả điều chỉnh kích thước xương gò má hay vị trí đôi mắt, để bắt chước khuôn mặt mà họ mạo danh. Các nhà nghiên cứu và phân tích của Wired phát hiện Haotian đã tiếp thị ứng dụng tới những kẻ lừa đảo kiểu “mổ heo” (pig-butchering) và các đường dây gian lận trực tuyến ở Đông Nam Á.
Pig-butchering là hình thức lừa dài hạn, trong đó kẻ lừa đảo xây dựng mối quan hệ với nạn nhân trong nhiều tuần hoặc nhiều tháng, trước khi dụ họ vào các nền tảng đầu tư giả mạo và cố gắng lừa sạch tiền.
Những kẻ lừa đảo đã sử dụng Haotian và các công cụ deepfake khác để củng cố trò lừa bằng cách cho phép nạn nhân gọi video với nhân vật mà họ tin rằng mình đang nói chuyện, như một phần của cơ hội đầu tư hoặc thậm chí là mối quan hệ lãng mạn.
Phân tích của Elliptic với 4 ví tiền điện tử liên quan đến Haotian cho thấy công ty này đã nhận ít nhất 3,9 triệu USD trong những năm gần đây, gồm cả tiền từ các ví liên quan tới hoạt động bị cáo buộc lừa đảo. Ngoài ra, gần một nửa số khoản thanh toán mà Haotian nhận có liên hệ với một chợ lừa đảo đã bị chính phủ Mỹ trừng phạt, theo Elliptic.
Elliptic là công ty phân tích blockchain có trụ sở tại Anh, chuyên cung cấp công nghệ truy vết giao dịch tiền mã hóa cho ngân hàng, sàn giao dịch và cơ quan thực thi pháp luật trên toàn cầu. Công ty này giúp phát hiện và ngăn chặn rửa tiền, tài trợ khủng bố và gian lận trong thế giới tiền mã hóa.
Elliptic sử dụng AI và phân tích dữ liệu blockchain để xác định giao dịch nào có khả năng liên quan đến tội phạm, ví nào từng dính líu đến hoạt động bất hợp pháp như ransomware, chợ đen hay tổ chức bị trừng phạt.
Hiếu PC theo dấu Haotian
Anh Hiếu PC (Ngô Minh Hiếu), Giám đốc tổ chức Chống Lừa Đảo, cho biết Haotian (xuất hiện khoảng năm 2021) là “một trong những nền tảng đầu tiên kiểu này và rất phổ biến”. Hiếu PC đã nghiên cứu sâu về Haotian và hoạt động của nó.
“Kết quả hoán đổi khuôn mặt của Haotian gần như hoàn hảo và ngày càng tốt hơn mỗi ngày. Nếu kiểm tra ví tiền điện tử của Haotian, bạn sẽ thấy tiền chảy vào mỗi ngày”, Hiếu PC nói với Wired.
Haotian chỉ là một phần của hệ sinh thái công nghệ rộng lớn đã hình thành xung quanh ngành tội phạm mạng bùng nổ ở Đông Nam Á và các khu phức hợp lừa đảo cưỡng bức lao động. Khi công nghệ hoán đổi khuôn mặt và các ứng dụng deepfake khác trở nên phổ biến hơn, chúng ngày càng được tích hợp vào các hoạt động lừa đảo và tội phạm mạng trên toàn thế giới.
Trong hai năm qua, các quan chức thuộc Văn phòng Liên Hợp Quốc về Ma túy và Tội phạm (UNODC) đã xác định hơn 10 công cụ hoán đổi khuôn mặt có khả năng đang bị tội phạm mạng ở Đông Nam Á sử dụng, cho cả lừa đảo tiền mã hóa và mạo danh cảnh sát.
Haotian có một trang web cho công cụ hoán đổi khuôn mặt, nhưng chủ yếu quảng bá phần mềmcho máy tính thông qua một kênh Telegram công khai, ra mắt tháng 10.2023, theo nghiên cứu của anh Hiếu PC. Qua kênh này (có hơn 20.000 người đăng ký), Haotian quảng bá các phiên bản mới của phần mềm, cập nhật phát triển và cung cấp hỗ trợ kỹ thuật. Việc tiếp thị phần mềm qua Telegram không hẳn là xấu, nhưng các nhà nghiên cứu cho biết tệp khách hàng của Haotian ngày càng nghiêng về những kẻ lừa đảo vốn tìm kiếm thông tin về nhiều dịch vụ mờ ám trên ứng dụng nhắn tin này.
Telegram từ chối bình luận. Tuy nhiên, sau khi Wired liên hệ với công ty, kênh Telegram công khai chính của Haotian và một số tài khoản liên quan đã không còn truy cập được hoặc dường như đã bị xóa. Telegram cũng không phản hồi việc liệu có gỡ các tài khoản này hay không.
“Cài đặt phần mềm tận nơi trong ngày”
Haotian là công ty đặt tại Campuchia, cho biết có trụ sở ở thủ đô Phnom Penh và quảng cáo dịch vụ cài đặt phần mềm, hỗ trợ tại chỗ trong khu vực. Các nhà nghiên cứu của Liên Hợp Quốc đã nêu bật dịch vụ “cài đặt tận nơi trong ngày” này bằng một ảnh chụp màn hình trong báo cáo năm 2024, cho thấy logo Haotian trên màn hình Điện thoại tại một địa điểm nghi là khu lừa đảo.
Tài liệu tiếp thị của Haotian trên cả website và Telegram thường xuyên đề cập đến tính hữu ích của ứng dụng này cho những hoạt động có thể mờ ám. Theo một bài đăng của Haotian trên Telegram, công nghệ này có thể giúp tạo ra một “nhân dạng tinh hoa, chân thực mà khách hàng hoàn toàn tin tưởng”. Cần lưu ý rằng những kẻ lừa đảo thường gọi nạn nhân là khách hàng.
Một thông điệp khác của Haotianđược các nhà nghiên cứu thuộc Liên Hợp Quốc nhấn mạnh: “Cuộc trò chuyện thiếu chân thực? Không có niềm tin? Hãy dùng phần mềm đổi mặt Haotian để gọi video và giải quyết mọi rắc rối. Rốt cuộc, làm sao một cô gái xinh đẹp như vậy có thể nói dối?”.
Nghiên cứu công bố vào tháng 3 bởi công ty an ninh mạng Tehtris (Pháp) đã theo dõi nhiều tên miền dường như liên quan đến Haotian những năm gần đây, gồm trang hiện tại là haotian.ai và địa chỉ trước đây như haotianai.com, haotianai.us.
Trong khi đó, nghiên cứu của anh Hiếu PC cho thấy website Haotian công khai đề cập đến các kỹ thuật tấn công phi kỹ thuật (thao túng tâm lý để đạt mục đích gian lận thay vì tấn công trực tiếp vào máy tính hay mạng).
Trên cả Telegram và website riêng, Haotian thường dùng cụm từ jingliao, nghĩa đen là “trò chuyện sâu” hay “trò chuyện tinh thần”, nhưng trên thực tế ám chỉ tấn công phi kỹ thuật và đặc biệt gắn liền với các vụ lừa đảo “mổ heo”.
Wired liên hệ với một tài khoản Telegram của Haotian bằng tiếng Anh để đặt câu hỏi. Tài khoản này trả lời bằng tiếng Trung rằng không thể giao tiếp với tiếng Anh và không nhận phỏng vấn.
“Khách hàng mục tiêu của chúng tôi là streamer giải trí hoặc người bán hàng livestream. Chúng tôi chỉ cung cấp phần mềm hoán đổi khuôn mặt cho livestream và không cho phép sử dụng sản phẩm với hoạt động bất hợp pháp”, tài khoản Haotian phản hồi bằng tiếng Trung. Trong một số tài liệu, công ty cũng cho biết đặt giới hạn với việc tạo nội dung khiêu dâm deepfake.
Haotian nói với Wired rằng sẽ chấm dứt tài khoản nếu phát hiện bị dùng cho lừa đảo và tuyên bố việc họ quảng cáo cho các trung tâm lừa đảo là “không đúng sự thật”.
Tài khoản này suy đoán nếu tồn tại hoạt động tiếp thị như vậy thì “nhiều khả năng” đến từ người mạo danh Haotian?! Khi được hỏi về ngôn ngữ trên haotian.ai có vẻ nhắm tới kẻ lừa đảo, tài khoản Telegram của Haotian nói công ty không có website. Song sau khi Wired gửi ảnh chụp màn hình website hiện tại và liên kết bản lưu trữ, tài khoản này đã xóa toàn bộ cuộc trò chuyện.
Phát trực tiếp video làm giả khuôn mặt trên WhatsApp, Line, Telegram, Facebook, Viber, Zoom, WeChat
Có vài cách để sử dụng phần mềm Haotian.
Gary Warner, Giám đốc tình báo tại hãng an ninh mạng DarkTower (Mỹ), cho biết các màn hoán đổi mượt nhất đến từ việc dùng các khuôn mặt được lập trình sẵn hoặc nhập nhiều ảnh một người để công ty xây dựng mô hình khuôn mặt cho họ. Chẳng hạn, trong các video quảng bá có Elon Musk và Leonardo DiCaprio, người dùng cũng có thể cung cấp hình ảnh của chính mình hoặc người khác để hệ thống tạo ra khuôn mặt tương ứng. Càng ít dữ liệu nguồn, kết quả càng kém thuyết phục.
Dù vậy, người dùng vẫn có thể tinh chỉnh khuôn mặt sau khi hoán đổi bằng các công cụ chi tiết để điều chỉnh nhiều đặc điểm. Theo các nhà nghiên cứu và video quảng bá của Haotian, video kết quả có thể phát trực tiếp vào các cuộc gọi trên WhatsApp, Line, Telegram, Facebook, Viber, Zoom, WeChat và nhiều nền tảng khác.
Ngoài ra, Haotian còn quảng cáo tính năng giả giọng nói và chatbot hỗ trợ AI trên một kênh Telegram liên quan. Các bài đăng từ Haotian cho biết công nghệ này hỗ trợ “sao chép giọng nói của bất kỳ ai cho cuộc gọi thời gian thực hoặc tin nhắn thoại” và chuyển giọng từ nam sang nữ hoặc ngược lại.
Các nhà vận động an ninh và cơ quan chức năng trên thế giới ngày càng cảnh báo về mối đe dọa tội phạm mạng sử dụng công cụ hoán đổi khuôn mặt cho lừa đảo. Một biện pháp cụ thể để phát hiện gian lận là yêu cầu người đang gọi video vẫy tay trước mặt để kiểm tra các lỗi hoặc biến dạng có thể phát hiện deepfake. Tuy nhiên, Haotian tuyên bố đã cải tiến để hệ thống hoạt động mượt ngay cả khi người dùng chạm tay vào mặt hoặc vẫy tay trước mặt trong lúc gọi video. Các bài đăng trên Telegram của Haotian tuyên bố dịch vụ hỗ trợ hôn gió, nháy mắt, liếm môi hoặc quay/lắc đầu.
Dù có thể tải xuống một phiên bản từ trang web Haotian, công ty này chủ yếu bán phần mềm của mình thông qua hình thức đăng ký. Một phiên bản Haotian “đầy đủ chức năng” có giá 4.980 USD/năm, nhưng cũng có các gói rẻ hơn.
Liên kết với chợ đen Huione Guarantee
Vài ngày sau khi Haotian ra mắt kênh Telegram vào tháng 10.2023, công ty cũng lập một tài khoản Telegram liên kết với chợ đen trực tuyến Huione Guarantee (còn gọi là Haowang Guarantee), theo anh Hiếu PC.
Huione Guarantee, liên quan tới công ty Campuchia Huione Group, cung cấp dịch vụ đặt cọc và ký quỹ qua Telegram, tạo điều kiện cho việc mua bán nhiều công cụ phục vụ lừa đảo, như dữ liệu nạn nhân, dịch vụ deepfake, vòng chân GPS có điện dùng trong hoạt động buôn người…
Tháng 1, trước khi Huione Guarantee phải đóng cửa rồi bị chính phủ Mỹ trừng phạt vì hỗ trợ lừa đảo, các nhà nghiên cứu ước tính nền tảng này đã tạo điều kiện cho hơn 24 tỉ USD giao dịch trên thị trường xám.
Huione Guarantee cũng là đơn vị xử lý thanh toán và dịch vụ ký quỹ của Haotian. Bằng chứng về mối quan hệ này đã xuất hiện nhiều năm trong các kênh Telegram liên quan đến cả hai công ty, nơi khách hàng thực hiện thanh toán. Nhật ký trò chuyện được Wired xem xét, cũng như kết quả từ nhiều nhà nghiên cứu, củng cố mối liên hệ đó.
Tom Robinson, đồng sáng lập và Giám đốc khoa học của Elliptic, cho biết các ví tiền điện tử được Haotian sử dụng đã nhận 3.558 khoản thanh toán với tổng trị giá 3,9 triệu USD những năm gần đây. Trong đó, 1,2 triệu USD là giao dịch giữa Haotian và các thực thể Huione Guarantee, kết thúc vào ngày 7.11.
Haotian sử dụng stablecoin Tether (USDT). Có hơn 3.007 khoản thanh toán trên 100 USD, giao dịch lớn nhất vào Haotian là 14.890 USD, và rất nhiều giao dịch xung quanh mức 500 USD, Tom Robinson tiết lộ.
Theo nghiên cứu của Tom Robinson, một số ví thanh toán cho Haotian có liên quan đến hoạt động tội phạm tiềm tàng.
Tom Robinson cho biết: “Tiền thu được từ ít nhất 52 vụ lừa đảo đã chảy vào các ví này. Điều đó hoàn toàn hợp lý nếu đây là nền tảng được những kẻ lừa đảo sử dụng. Họ sẽ trả tiền cho dịch vụ từ số tiền lừa đảo đã kiếm được”. Ông thêm rằng các tài khoản liên quan đến các vụ lừa đảo này đã bị đối tác của Elliptic đánh dấu.
Dù Haotian thường xuyên ra mắt tính năng mới và cải thiện chất lượng deepfake, dĩ nhiên đây chỉ là một trong nhiều công cụ mà kẻ lừa đảo có thể dùng. Hoạt động lừa đảo rộng lớn còn dựa vào việc buôn bán dữ liệu đánh cắp, tài khoản mạng xã hội giả và các website lừa đảo, cùng vô số công cụ kỹ thuật số tạo nên hệ thống công nghệ lừa đảo.
Andrew Fierman, trưởng bộ phận tình báo an ninh quốc gia tại Chainalysis, cho biết hoạt động của Haotian nhìn chung tương tự các công ty khác từng hoạt động trên Huione Guarantee. Đó là những thực thể công nghệ thường xử lý vài trăm nghìn đến vài triệu USD. Con số này nhỏ so với quy mô tổng thể của hoạt động lừa đảo ở Đông Nam Á, nhưng Andrew Fierman nói các giao dịch nhỏ lẻ này cho các nhà cung cấp công nghệ giúp duy trì hệ sinh thái phi pháp.
Chainalysis là hãng công nghệ chuyên về phân tích dữ liệu blockchain và tiền mã hóa, có trụ sở tại Mỹ.
“Vài nghìn USD có thể tạo ra tác động lớn. Chúng ta không nói về công nghệ có giá hàng trăm nghìn USD để thiết lập và vận hành một đường dây lừa đảo kiểu ‘mổ heo’. Kẻ gian có thể không chỉ mua phần mềm giả giọng nói và hoán đổi khuôn mặt bằng AI, mà còn muốn lấy dữ liệu, xây dựng trang web và thực hiện các khía cạnh khác của hệ sinh thái công nghệ lừa đảo”, Andrew Fierman nhận định.
https%3A%2F%2F1thegioi.vn%2Fhieu-pc-theo-dau-ung-dung-ai-hoan-doi-khuon-mat-tu-campuchia-tiep-tay-cho-lua-dao-242577.html
