Theo Business Insider, một cặp vợ chồng già ở Canada đã bị lừa 21.000 USD sau khi nhận được cuộc gọi từ một người tự xưng là luật sư của con trai họ.
Người luật sư này nói rằng con trai họ đang ngồi tù vì gây ra một vụ tai nạn xe hơi.
Anh Benjamin Perkin, người con trai chia sẻ với The Washington Post rằng, người gọi kia đã sử dụng một giọng nói do AI tạo ra nghe giống hệt như bản thân anh nói chuyện điện thoại với bố mẹ mình để đòi tiền. Sau cuộc gọi giả danh bằng AI, vị luật sư gọi lại cho cha mẹ và trao đổi cần 21.000 USD chi phí pháp lý.
Anh Perkin chia sẻ, giọng nói rất giống như bản thân nói chuyện và khiến bố mẹ thực sự tin rằng họ đã nói chuyện với anh.
Ngay lập tức, cha mẹ của anh ta đã gom góp tiền mặt và gửi tiền cho kẻ lừa đảo thông qua hệ thống Bitcoin. Cha mẹ của anh Perkin sau đó nhận thấy cuộc gọi có vẻ gì đó kỳ lạ nhưng chỉ khi đến tối có thể liên lạc với con trai, họ mới biết đã bị lừa.
Anh Perkin cho biết, gia đình anh đã trình báo cảnh sát Canada, nhưng để đòi lại số tiền này rất khó vì khoản tiền được gửi đi thông qua Bitcoin, không có giao dịch ghi chép, không bảo hiểm.
The Washington Post cho rằng, kẻ lừa đảo đã tìm thấy những video của anh Perkin trên Youtube và dùng AI huấn luyện để có thể tạo ra giọng nói gần giống với anh.
Business Insider nhận định, sự phát triển của các công cụ AI đã diễn ra mạnh mẽ cùng với đó số vụ lừa đảo mạo danh cũng tăng lên đồng thời.
Business Insider cho biết, theo số liệu thống kê của Uỷ ban thương mại Liên bang Hoa Kỳ, năm 2022 đã có hơn 2,4 triệu người Mỹ báo cáo mình bị lừa đảo cùng với tống số tiền 8,8 tỷ USD (hơn 200.000 tỷ đồng).
Hany Farid, giáo sư tại Đại học California ở Berkeley, cho biết mặc dù tồn tại nhiều hình thức lừa đảo, nhưng về cơ bản, chúng sẽ thuyết phục nạn nhân gửi tiền vì người thân của họ đang gặp khó khăn.
Nhưng chính công nghệ giọng nói được tạo ra bởi AI khiến mưu mẹo trở nên thuyết phục hơn. Ông Farid cho biết, phần mềm tạo giọng nói AI đã phân tích rất kỹ giọng nói của một người trở dựa trên tuổi tác, giới tính và sự khác biệt của giọng nói, đồng thời tìm kiếm cơ sở dữ liệu khổng lồ về các giọng nói để tìm những giọng nói tương tự và dự đoán các mẫu.
Sau đó, AI có thể tạo ra một giọng nói tương tự với cùng cao độ, âm vực và âm thanh riêng lẻ của một người. Tuy nhiên, ông Farid cho biết, hầu hết AI dựa trên dữ liệu có từ các mạng xã hội như YouTube, podcast, quảng cáo, video TikTok, Instagram hoặc Facebook để tạo ra giọng nói.
Giáo sư nói: “Nếu bạn có quay video trên Facebook hoặc nếu đã quay một video một TikTok và giọng nói của bạn xuất hiện trong clip trên 30 giây, AI hoàn toàn có thể sao chép giọng nói của bạn”.
