Nền tảng xã hội phát video trực tuyến YouTube đã ban hành các nguyên tắc cộng đồng mới liên quan đến việc tiết lộ trí tuệ nhân tạo (AI) được sử dụng trong nội dung.

Nền tảng này đã xuất bản một blog vào ngày 14 tháng 11 nói rằng các bản cập nhật sẽ yêu cầu người sáng tạo trên nền tảng của nó thông báo cho người xem của họ nếu nội dung đang được hiển thị là “tổng hợp”.

“Chúng tôi sẽ yêu cầu người sáng tạo tiết lộ thời điểm họ tạo nội dung bị thay đổi hoặc tổng hợp mang tính thực tế, bao gồm cả việc sử dụng các công cụ AI.”

Một ví dụ được đưa ra trong bản cập nhật là một video do AI tạo ra “mô tả một cách chân thực” điều gì đó chưa từng xảy ra hoặc nội dung một người nói hoặc làm điều gì đó mà họ không làm.

Theo YouTube, thông tin này sẽ được hiển thị cho người xem theo hai cách, cách đầu tiên là một nhãn mới được thêm vào bảng mô tả và nếu nội dung nói về “các chủ đề nhạy cảm” thì một nhãn nổi bật hơn cho trình phát video.

Theo YouTube, các chủ đề nhạy cảm bao gồm bầu cử chính trị, “xung đột đang diễn ra”, khủng hoảng sức khỏe cộng đồng và các quan chức.

YouTube cho biết họ sẽ làm việc với những người sáng tạo để giúp cộng đồng hiểu rõ hơn về các nguyên tắc mới. Tuy nhiên, họ cho biết đối với bất kỳ ai không tuân thủ các quy tắc, nội dung của họ sẽ bị xóa, “đình chỉ tham gia Chương trình Đối tác YouTube hoặc các hình phạt khác”.

Nền tảng này cũng đề cập đến chủ đề về hàng giả sâu do AI tạo ra, vốn ngày càng trở nên phổ biến và thực tế. Họ cho biết họ đang tích hợp một tính năng mới cho phép người dùng yêu cầu xóa một video tổng hợp “mô phỏng một cá nhân có thể nhận dạng được, bao gồm cả khuôn mặt hoặc giọng nói của họ, bằng quy trình yêu cầu quyền riêng tư của chúng tôi”.

Gần đây, nhiều người nổi tiếng và nhân vật của công chúng, chẳng hạn như Tom Hanks, Mr. Beast, Gayle King, Jennifer Aniston và những người khác, đã phải vật lộn với những video giả mạo sâu sắc về chính họ quảng cáo cho các sản phẩm.

Nội dung do AI tạo ra cũng là một cái gai đối với ngành công nghiệp âm nhạc trong năm qua, với nhiều hành vi giả mạo sâu sắc về các nghệ sĩ sử dụng mẫu giọng hát hoặc bản nhạc bất hợp pháp cũng gây rắc rối trên Internet.

Trong nguyên tắc cộng đồng được cập nhật của mình, YouTube cho biết họ cũng sẽ xóa nhạc do AI tạo ra hoặc nội dung bắt chước giọng hát hoặc giọng rap độc đáo của một nghệ sĩ theo yêu cầu của “đối tác âm nhạc”.

Vào mùa hè, YouTube đã bắt đầu nghiên cứu các nguyên tắc hợp tác với ngành công nghiệp âm nhạc về công nghệ AI. Bên cạnh các nguyên tắc cộng đồng, YouTube gần đây đã phát hành các chatbot AI thử nghiệm mới để trò chuyện với người xem trong khi xem video.