Các chuyên gia: Nội dung rác, lừa đảo đánh cắp thông tin đằng sau ‘làn sóng’ hình ảnh do AI tạo ra
Mặc dù những sáng tạo kỳ lạ và tuyệt vời này có vẻ như là kết quả của nhiều giờ tập trung tỉ mỉ, nhưng những bức ảnh này thực chất lại được tạo ra chỉ trong vài giây bằng máy điện toán.
Hình ảnh những em bé trong trang phục hóa trang bắp cải, các tác phẩm nghệ thuật nghiệp dư và những chiếc bánh tự làm đang thu hút hàng triệu lượt xem trên Facebook. Tuy nhiên các chuyên gia cảnh báo rằng những nội dung như vậy có thể không vô hại như người ta tưởng.
Trong số những sáng tạo kỳ lạ nhất là những hình ảnh mô tả Chúa Jesus được làm từ tôm hoặc các loại động vật có vỏ khác, mà người dùng bối rối gọi là “Chúa Jesus Tôm.”
Những hình ảnh khác trông giống như các tác phẩm nghệ thuật nghiệp dư, chẳng hạn như các tác phẩm điêu khắc bằng đá và cát tinh xảo hoặc những bức tranh sơn dầu đẹp mê ly mà cũng sẽ trông không lạc lõng lắm nếu được đặt trong bảo tàng Louvre.
Mặc dù những sáng tạo kỳ lạ và tuyệt vời này có vẻ như là kết quả của nhiều giờ tập trung tỉ mỉ, nhưng những bức ảnh này thực chất lại được tạo ra chỉ trong vài giây bằng máy điện toán.
Các nhà nghiên cứu tại Đài quan sát Internet Stanford ở California cho biết làn sóng nội dung do AI tạo ra dường như là một nỗ lực kiếm tiền bằng cách thu hút các lượt nhấp chuột và chia sẻ từ người dùng mạng xã hội.
Họ đã phân tích 120 trang Facebook, mỗi trang đăng ít nhất 50 hình ảnh do AI tạo ra và nhận được tổng cộng hàng trăm triệu lượt tương tác.
Các nhà nghiên cứu phát hiện ra rằng các trang đăng liên tục những hình ảnh như vậy được lập ra với mục đích kích thích người dùng nhấp chuột để khuyến khích truy cập vào các trang web đáng ngờ hoặc tiết lộ thông tin cá nhân của họ.
Nghiên cứu cho thấy các trang bị tấn công nằm trong số những trang đăng nội dung AI.
Đồng tác giả Renee DiResta nói với AAP rằng các trang khác dường như đang thu hút lượng người theo dõi lớn để tăng giá trị bán lại của họ.
Nhiều người dùng Facebook không biết những hình ảnh này không phải là do người thật tạo ra.
“Amen và xin chúc mừng chàng trai trẻ,” một bình luận viết dưới hình ảnh một đứa trẻ do AI tạo ra đang ngồi trên đùi bức tượng điêu khắc trừu tượng về Chúa Jesus được làm từ khoai tây.
Bài đăng này cũng nhận được một bình luận khác: “Thật tuyệt vời. Chúa phù hộ cho bạn.”
Bà DiResta cho biết các chủ đề tôn giáo có vẻ phổ biến với những kẻ đăng liên tục nội dung rác và lừa đảo AI vì các chủ đề này thu hút người dùng mạng xã hội trên toàn thế giới.
Các bài đăng cũng sử dụng chú thích giàu cảm xúc để khuyến khích người dùng like và chia sẻ.
“Chính tay tôi làm ra tác phẩm này, nhưng không ai đánh giá cao,” một chú thích điển hình viết.
Một chú thích phổ biến khác là, “Đây là chiếc bánh đầu tiên của tôi! Rất hân hạnh nhận được lời đánh giá của bạn.”
Ông Dan Halpin, giám đốc điều hành của công ty điều tra mạng Cybertrace, cho biết không phải lúc nào các bài đăng cũng có mục đích đơn thuần.
Ông nói: “Các chiến thuật như vậy thường là một phần của những chiến lược lớn hơn nhằm kiếm tiền qua các lượt nhấp chuột và tiếp thị liên kết, hoặc thu hút khán giả để sử dụng trong tương lai, có thể là cho mục đích lừa đảo.”
AAP đã cố gắng liên lạc với bốn trang đăng nội dung do AI tạo ra nhiều nhất trên Facebook nhưng không nhận được bất kỳ hồi âm nào.
Không có trang nào nói với người dùng rằng những hình ảnh họ đăng lên là không có thật.
Một số hình ảnh có những sai sót hé lộ nguồn gốc kỹ thuật số của bức hình, chẳng hạn như bàn tay bị biến dạng hoặc những từ ngữ khó hiểu trên bánh sinh nhật.
Bà Jeannie Paterson từ Trung tâm AI và Đạo đức Kỹ thuật số (CAIDE) của Đại học Melbourne cho biết những tiến bộ nhanh chóng trong công nghệ AI tạo sinh đã khiến việc xác định xem một hình ảnh có phải là chân thực hay không trở nên khó khăn hơn.
Giáo sư Paterson nói: “Khi lướt xem theo cách thông thường, nhiều người không thể phân biệt được [những hình ảnh như vậy có phải là ảnh thật hay không].”
“Hình ảnh do AI tạo ra đã được cải thiện đáng kể và dường như sẽ tiếp tục cải thiện.”
Giáo sư Paterson nói rằng những người đăng ảnh có nghĩa vụ đạo đức phải tiết lộ nguồn gốc AI của bức hình đăng lên.
Bà cho biết những người đăng ảnh cũng có thể có nghĩa vụ pháp lý phải làm như vậy, chẳng hạn như khi nội dung có thể đánh lừa người tiêu dùng.
Meta dự định sẽ gán nhãn các bài đăng video, âm thanh, và hình ảnh trên Facebook nào “Được tạo ra bằng AI” khi phát hiện ra những hình ảnh như vậy.
Ông Halpin cho rằng mọi người nên phớt lờ những bài đăng rác có chứa hình ảnh do AI tạo ra hoặc báo cáo cho Facebook.
Ông nói: “Việc chia sẻ hoặc tương tác với nội dung rác do AI tạo ra có thể vô tình giúp ích cho các mạng lưới tinh vi này và thậm chí có thể khiến dữ liệu cá nhân của quý vị gặp rủi ro.”
Thanh Nguyên biên dịch
Quý vị tham khảo bản gốc từ The Epoch Times
