Ấn Độ đang xây dựng các quy định để giám sát deepfake, Bộ trưởng Đường sắt, Truyền thông, Điện tử và Công nghệ thông tin Ashwini Vaishnaw cho biết vào ngày 23 tháng 11, mở rộng tuyên bố của Thủ tướng Narendra Modi một ngày trước đó về những lo ngại của ông về công nghệ.

Theo báo cáo của Reuters, trong các cuộc thảo luận với các học giả, hiệp hội ngành nghề và các công ty truyền thông xã hội, Vaishnaw cho biết chính phủ Ấn Độ đặt mục tiêu hoàn thành việc soạn thảo các quy định trong những tuần tới.

Deepfakes là các video hoặc bản ghi âm do trí tuệ nhân tạo (AI) tạo ra thực tế và thường có tính thuyết phục nhằm thao túng hoặc thay thế hình ảnh và giọng nói của một người trong video hoặc clip âm thanh hiện có. Trong những bình luận ban đầu tại hội nghị thượng đỉnh ảo G20, ông Modi đã kêu gọi các nhà lãnh đạo quốc tế hợp tác trong việc quản lý AI và bày tỏ lo lắng về những tác động bất lợi của deepfake đối với xã hội.

Trong báo cáo, Vaishnaw cho biết quy trình soạn thảo quy định sẽ xem xét các hình phạt đối với cá nhân tải nội dung lên và nền tảng mạng xã hội nơi nội dung đó được đăng. Sự phát triển này xảy ra khi các quốc gia trên toàn cầu đang nỗ lực thiết lập các quy định để quản lý AI.

Vào tháng 10, Tổng thống Hoa Kỳ Joe Biden đã ký một sắc lệnh hành pháp yêu cầu các nhà phát triển hệ thống AI gây rủi ro cho an ninh quốc gia, nền kinh tế, sức khỏe cộng đồng hoặc an toàn của Hoa Kỳ phải chia sẻ kết quả kiểm tra an toàn với chính phủ Hoa Kỳ trước khi chúng được công bố rộng rãi. .

Liên Hợp Quốc cũng đã thành lập một cơ quan cố vấn gồm 39 thành viên để giải quyết các thách thức quản trị trong lĩnh vực AI và các nhà lập pháp châu Âu đã soạn thảo các quy tắc dự thảo để có thể phê duyệt vào tháng tới. Vào tháng 11, Cơ quan Tình báo An ninh Canada – cơ quan tình báo quốc gia chính của Canada – đã nêu lên mối lo ngại về các chiến dịch thông tin sai lệch được thực hiện trên internet bằng cách sử dụng các kỹ thuật deepfake AI.

Vào tháng 8, cảnh sát Trung Quốc đã công bố giám sát chặt chẽ hơn lĩnh vực Web3 , với Jinfeng Sun, chính ủy của Cục An ninh Mạng, tiết lộ rằng đã có 79 trường hợp gian lận liên quan đến deepfake AI, chẳng hạn như mạo danh thông qua hoán đổi khuôn mặt kỹ thuật số, dẫn đến bắt giữ 515 cá nhân