Deepfake bị lạm dụng để tạo ra những video khiêu dâm của người nổi tiếng, lan truyền tin giả và lừa đảo tài chính. Ảnh: Shutterstock.
Mới đây, chính quyền Trung Quốc đã công bố đạo luật mới cấm phát tán deepfake, công nghệ cho phép người dùng có thể chỉnh sửa khuôn mặt, khẩu hình của người dùng bằng trí tuệ nhân tạo (AI). Đạo luật này nhằm bảo vệ người dùng khi hình ảnh hoặc âm thanh của họ bị sử dụng mà không có sự cho phép.
Có tên là Administrative Provisions on Deep Synthesis for Internet Information Service, quy định này đã được Bộ Công nghiệp và Công nghệ thông tin cùng Bộ Công an thông qua, sẽ chính thức có hiệu lực vào ngày 10/1/2023.
Đạo luật mới về deepfake áp dụng với "những nền tảng, dịch vụ chuyên dùng công nghệ để chỉnh sửa, biến đổi hình ảnh, âm thanh của người dùng” bao gồm cả thuật toán học sâu, ứng dụng thực tế ảo tăng cường.
Mọi dịch vụ deepfake dùng đều phải cam kết rằng tất cả nội dung sử dụng công nghệ này đều đã xin chuyển nhượng bản quyền, đồng thời cung cấp nguồn gốc để dễ dàng truy vết. Người dùng phải được thông báo và chấp thuận nếu có người muốn sử dụng hình ảnh, âm thanh của họ.
Deepfake ngày càng phổ biến và xuất hiện trong nhiều lĩnh vực. Ảnh: an Waldie.
Động thái này của chính phủ Trung Quốc được đưa ra ngay khi những lo ngại liên quan đến công nghệ AI sẽ bị lạm dụng để lừa đảo, mạo danh người nổi tiếng rộ lên. Tuy nhiên, cũng không thể phủ nhận rằng deepfake mang lại rất nhiều lợi ích ở một số lĩnh vực.
Vì thế, thay vì cấm toàn bộ sản phẩm deepfake, chính quyền Trung Quốc sẽ khuyến khích công nghệ này được sử dụng cho mục đích hợp pháp và được pháp luật bảo vệ để vận hành đúng cách.
Theo SCMP, deepfake ngày càng được cải tiến và rất khó phát hiện. Công nghệ này đã xuất hiện trên phạm vi toàn cầu để tạo ra những video khiêu dâm của người nổi tiếng, lan truyền tin giả và lừa đảo tài chính.
Tiêu biểu nhất là trường hợp BitVex, trang tiền số lừa đảo, dùng video deepfake những người nổi tiếng như Elon Musk để quảng bá và đánh lừa người dùng. Trong một video “phỏng vấn Elon Musk”, nhân vật có khuôn mặt giống vị tỷ phú nói rằng đã đầu tư 50 triệu USD vào BitVex.
Do đó, nhiều nền tảng mạng xã hội như Twitter và Facebook đã công bố nhiều quy định khác nhau để phát hiện deepfake và ngăn chặn những thông tin giả được lan truyền từ công nghệ này.
Theo Shi Jianzhong, Phó hiệu trưởng của Đại học Khoa học Chính trị và Luật Trung Quốc, sự phát triển của deepfake mang lại nhiều cơ hội nhưng cũng tiềm ẩn hàng loạt. “Phát triển công nghệ deepfake và sử dụng nó rộng rãi sẽ tạo động lực cho toàn bộ lĩnh vực AI, thúc đẩy công nghệ này phát triển và sử dụng cho mục đích tốt”, Jianzhong nói.
Theo Gizmodo, nếu đạo luật mới của Trung Quốc thành công, nó sẽ trở thành khung pháp luật để các quốc gia khác học theo và áp dụng. Đây cũng không phải lần đầu tiên quốc gia tỷ dân siết luật đối với lĩnh vực công nghệ.
Năm ngoái, chính quyền nước này đã công bố luật mới về quyền riêng tư, hạn chế các công ty tư nhân thu thập thông tin danh tính người dùng. Quy định này được xây dựng dựa trên Quy định Chung về Bảo vệ Dữ liệu (GDPR) của EU, yêu cầu các công ty phải được chấp thuận trước khi lưu trữ thông tin cá nhân như dấu vân tay, thông tin ngân hàng…
