Trong một bài đăng trên blog có tiêu đề “những kẻ xấu đã tạo một hình ảnh AI ba chiều của tôi để lừa vào các dự án không đáng tin”, ông Patrick Hillmann cho biết một nhóm hack đã sử dụng đoạn phỏng vấn trước đây của mình để giả mạo danh tính bằng công nghệ deepfake.
“Ngoài việc cân nặng của tôi đã tăng thêm gần 7 kg trong thời gian giãn cách Covid-19, sự giả mạo tinh vi này đã được điều chỉnh đủ để đánh lừa một số thành viên thông minh trong cộng đồng tiền mã hóa”, ông Patrick Hillmann viết.
Bằng chứng trực tiếp duy nhất mà Hillmann đưa ra là ảnh chụp màn hình cuộc trò chuyện với một cá nhân ẩn danh. Người này tuyên bố đã có một cuộc gọi Zoom với chính Hillmann. Tất nhiên, Giám đốc Truyền thông của Binance phủ nhận điều này và thừa nhận ai đó đã lợi dụng hình ảnh của ông cho mục đích xấu.
Elon Musk cũng từng là nạn nhân của hiệu ứng deepfake. Mặc dù có sự khác biệt khá rõ ràng nhưng một số người có thể chỉnh sửa gần như giống 100%. Ảnh: Test Tips.
Mặc dù có nhiều cuộc thảo luận về khả năng giả mạo cá nhân trong các cuộc gọi điện video, việc xác định thật giả vẫn rất phức tạp. Các bản deepfake (kỹ thuật tổng hợp bằng trí tuệ nhân tạo) âm thanh được sử dụng để mạo danh mọi người đang lan truyền rộng rãi trên mạng xã hội nhằm tạo ra những trò gian lận.
Các chuyên gia khuyến cáo rằng cách đơn giản nhất để nhận biết giả mạo là yêu cầu người đó quay đầu lại. Hiện tại, các mô hình máy học (machine learning) được sử dụng để tạo deepfake thường không tái tạo các chi tiết của khuôn mặt.
Tuy vậy, nỗi sợ từ mối đe dọa của kỹ thuật này lan rộng hơn nhiều. Vào năm 2021, các chính trị gia châu Âu tuyên bố họ đã bị lừa bởi một cuộc gọi video tinh vi từ một đồng nghiệp bất đồng chính kiến của Nga. Theo The Verge, vụ việc này là “tác phẩm” của những kẻ chơi khăm người Nga, khi họ chỉ sử dụng hiệu ứng để lừa đảo.
Lĩnh vực tiền số đầy rẫy những trò gian lận dựa trên hiệu ứng deepfake. Kẻ xấu dựa vào những bức ảnh và video bị đánh cắp để đưa vào hồ sơ mạng xã hội giả mạo, cùng một số kỹ thuật đặc biệt để đánh cắp tiền. Tất nhiên, những người có tầm ảnh hưởng như Hillmann luôn là một mục tiêu mà những kẻ lừa đảo hướng đến và lợi dụng.
Ngoài ra, tác giả James Vincent của The Verge khuyến cáo người dùng nên tìm hiểu kỹ các thông tin để tránh bị lừa các dự án gian lận.
