Youtube đã đi bước đầu tiên để hạn chế nội dung do AI tạo ra. Ảnh: Alex Castro/ The Verge.
Theo CNN, người dùng YouTube phải thông báo nếu trong video có chứa nội dung được tạo ra bởi AI. Cụ thể, các nhà sáng tạo sẽ được yêu cầu xác định thời điểm chứa nội dung do AI tạo ra trong video để gắn nhãn cảnh báo người xem. Những tài khoản không tuân theo quy định này sẽ không được tham gia Chương trình đối tác YouTube (YPP) và bị gỡ video.
YouTube sẽ thêm 2 loại nhãn. Loại đầu tiên hiển thị trên bảng mô tả để phân loại video có phải do AI tạo ra hay không. Loại thứ hai sẽ xuất hiện trong trình phát video khi nội dung đề cập đến chủ đề nhạy cảm như bầu cử, các cuộc xung đột hoặc khủng hoảng sức khỏe cộng đồng.
Tuy nhiên, YouTube chỉ yêu cầu người sáng tạo gắn nhãn nội dung trông giống như thật do AI tạo. Những nội dung ảo dễ nhận thấy, hoặc người dùng sử dụng AI để điều chỉnh ánh sáng, màu sắc, tạo phụ đề… sẽ được YouTube bỏ qua.
YouTube Creator Studio có thêm yêu cầu xác định video có chứa nội dung thực tế do AI tạo ra hay không. Ảnh: YouTube.
Đây là bước đi đầu tiên của YouTube nhằm hạn chế việc lợi dụng AI để phát tán tin giả. Các chuyên gia lo ngại sự phát triển của các công cụ AI tạo sinh có thể khiến tin giả tràn ngập trên Internet và đe dọa đến cuộc bầu cử tổng thống Mỹ cuối năm nay.
YouTube cũng có kế hoạch cho phép người dùng gửi yêu cầu xóa nội dung AI mô phỏng người thật, bao gồm việc sử dụng khuôn mặt hoặc giọng nói của họ. Tuy nhiên, công ty sẽ xem xét nhiều yếu tố khác nhau trước khi quyết định xóa. Nếu nội dung mang tính châm biếm, hay liên quan đến quan chức nhà nước hoặc người nổi tiếng, YouTube sẽ đưa ra những tiêu chuẩn khắt khe hơn.
Theo NY Post, YouTube cho biết công ty sẽ đưa ra hướng dẫn cụ thể kèm theo các ví dụ khi quy định được áp dụng vào năm 2024. Công ty đang tập trung vào việc xây dựng đội ngũ và phát triển công nghệ có khả năng kiểm duyệt nội dung ở quy mô lớn, nhằm đảm bảo công cụ AI của YouTube tạo ra nội dung phù hợp.
Bản cập nhật YouTube mới nhất dự kiến ra mắt vào khoảng tháng 9.