Meta sẽ sử dụng mô hình học sâu để áp dụng hình mờ cho các hình ảnh được tạo bằng công cụ AI của nó, điều này sẽ không thể nhìn thấy được bằng mắt người.
Gã khổng lồ truyền thông xã hội Meta, trước đây gọi là Facebook, sẽ đưa hình mờ vô hình vào tất cả các hình ảnh mà nó tạo ra bằng trí tuệ nhân tạo (AI) khi tăng cường các biện pháp ngăn chặn việc lạm dụng công nghệ.
Trong một báo cáo ngày 6 tháng 12 nêu chi tiết các bản cập nhật cho Meta AI – trợ lý ảo của Meta – công ty tiết lộ rằng họ sẽ sớm bổ sung hình mờ vô hình cho tất cả các hình ảnh do AI tạo ra được tạo bằng “hãy tưởng tượng với trải nghiệm Meta AI”. Giống như nhiều chatbot AI khác, Meta AI tạo hình ảnh và nội dung dựa trên lời nhắc của người dùng. Tuy nhiên, Meta nhằm mục đích ngăn chặn những kẻ xấu coi dịch vụ này như một công cụ khác để lừa gạt công chúng.
Giống như nhiều trình tạo hình ảnh AI khác, Meta AI tạo hình ảnh và nội dung dựa trên lời nhắc của người dùng. Tính năng hình mờ mới nhất sẽ khiến người tạo khó xóa hình mờ hơn.
“Trong những tuần tới, chúng tôi sẽ thêm hình mờ vô hình vào hình ảnh bằng trải nghiệm Meta AI để tăng tính minh bạch và khả năng truy xuất nguồn gốc.”
Meta cho biết họ sẽ sử dụng mô hình học sâu để áp dụng hình mờ cho các hình ảnh được tạo bằng công cụ AI của mình, điều này sẽ không thể nhìn thấy được bằng mắt người. Tuy nhiên, các hình mờ vô hình có thể được phát hiện bằng mô hình tương ứng.
Không giống như hình mờ truyền thống, Meta tuyên bố hình mờ AI của mình – được đặt tên là Hãy tưởng tượng với Meta AI – “có khả năng phục hồi các thao tác hình ảnh phổ biến như cắt xén, thay đổi màu sắc (độ sáng, độ tương phản, v.v.), ảnh chụp màn hình và hơn thế nữa”. Mặc dù các dịch vụ tạo hình mờ ban đầu sẽ được triển khai cho các hình ảnh được tạo thông qua Meta AI, công ty có kế hoạch đưa tính năng này đến các dịch vụ Meta khác sử dụng hình ảnh do AI tạo ra.
Trong bản cập nhật mới nhất của mình, Meta AI cũng giới thiệu tính năng “tái tạo” cho Facebook Messenger và Instagram. Bản cập nhật cho phép người dùng gửi và nhận hình ảnh do AI tạo cho nhau. Do đó, cả hai dịch vụ nhắn tin cũng sẽ nhận được tính năng hình mờ vô hình.
Các dịch vụ AI như Dall-E và Midjourney đã cho phép thêm hình mờ truyền thống vào nội dung mà nó tạo ra. Tuy nhiên, những hình mờ như vậy có thể được loại bỏ bằng cách cắt bớt cạnh của hình ảnh. Hơn nữa, các công cụ AI cụ thể có thể tự động xóa hình mờ khỏi hình ảnh, điều mà Meta AI tuyên bố sẽ không thể thực hiện được với đầu ra của nó.
Kể từ khi phổ biến các công cụ AI tổng hợp, nhiều doanh nhân và người nổi tiếng đã kêu gọi các chiến dịch lừa đảo do AI cung cấp . Những kẻ lừa đảo sử dụng các công cụ có sẵn để tạo video, âm thanh và hình ảnh giả mạo của các nhân vật nổi tiếng và phát tán chúng trên internet.
Vào tháng 5, một hình ảnh do AI tạo ra cho thấy một vụ nổ gần Lầu Năm Góc – trụ sở của Bộ Quốc phòng Hoa Kỳ – đã khiến thị trường chứng khoán sụt giảm trong thời gian ngắn.
Ví dụ điển hình về sự nguy hiểm trong hệ thống trả tiền để xác minh: Tài khoản này đã tweet một bức ảnh (rất có thể do AI tạo ra) về một câu chuyện (giả mạo) về một vụ nổ ở Lầu Năm Góc, thoạt nhìn trông giống như một tin tức hợp pháp của Bloomberg cho ăn. pic.twitter.com/SThErCln0p
– Andy Campbell (@AndyBCampbell) Ngày 22 tháng 5 năm 2023
Hình ảnh giả mạo, như được hiển thị ở trên, sau đó đã được các phương tiện truyền thông tin tức khác săn đón và lan truyền, dẫn đến hiệu ứng quả cầu tuyết. Tuy nhiên, chính quyền địa phương, bao gồm cả Cơ quan Bảo vệ Lực lượng Lầu Năm Góc, phụ trách an ninh của tòa nhà, cho biết họ đã biết về báo cáo lưu hành và xác nhận rằng “không có vụ nổ hay sự cố nào” xảy ra.
@PFPAOfficial và ACFD biết về một báo cáo trên mạng xã hội lan truyền trực tuyến về một vụ nổ gần Lầu Năm Góc. KHÔNG có vụ nổ hoặc sự cố nào xảy ra tại hoặc gần khu bảo tồn của Lầu Năm Góc và không có mối nguy hiểm hoặc mối nguy hiểm trực tiếp nào đối với công chúng. pic.twitter.com/uznY0s7deL
– Hỏa hoạn Arlington & EMS (@ArlingtonVaFD) Ngày 22 tháng 5 năm 2023
Trong cùng tháng đó, nhóm vận động nhân quyền Tổ chức Ân xá Quốc tế đã yêu thích một hình ảnh do AI tạo ra mô tả sự tàn bạo của cảnh sát và sử dụng nó để thực hiện các chiến dịch chống lại chính quyền.
Erika Guevara cho biết: “Chúng tôi đã xóa các hình ảnh khỏi các bài đăng trên mạng xã hội vì chúng tôi không muốn những lời chỉ trích về việc sử dụng hình ảnh do AI tạo ra làm xao lãng thông điệp cốt lõi ủng hộ các nạn nhân và lời kêu gọi công lý của họ ở Colombia”. Rosas, giám đốc Châu Mỹ tại Tổ chức Ân xá.
Tổng hợp và chỉnh sửa: ThS Phạm Mạnh Cường
Theo Coindesk