Thiếu niên bị bắt sau khi tạo ra các hình ảnh deepfake AI của 50 bạn học
Các nữ sinh tại một trường tư thục ở Melbourne đã trở thành mục tiêu của công nghệ giả mạo khuôn mặt bằng trí tuệ nhân tạo (deepfake AI), với một nam sinh đã bị bắt và cảnh sát đang tiến hành điều tra.
Một tuần sau khi chính phủ Úc đề nghị luật mới nhắm vào hình ảnh sử dụng công nghệ trí tuệ nhân tạo giả mạo khuôn mặt (deepfake AI), cảnh sát đã bắt giữ một nam thiếu niên sau một vụ việc đáng lo ngại tại một trường tư thục ở Melbourne.
Khoảng 50 nữ sinh đã bị nhắm mục tiêu, trong đó cậu thiếu niên kia sử dụng AI để tạo ra hình ảnh và video giả do máy điện toán tạo ra bằng cách sử dụng ảnh chụp khuôn mặt của các cô gái.
Trong một tuyên bố, Cảnh sát Victoria đã thông báo về vụ bắt giữ nam học sinh này của Trường Bacchus Marsh Grammar.
“Cảnh sát đã bắt giữ một thiếu niên liên quan đến những hình ảnh nhạy cảm được phát tán trực tuyến,” một phát ngôn viên của cảnh sát nói với The Epoch Times trong một tuyên bố. “Cậu ta đã được thả trong khi chờ điều tra thêm. Cuộc điều tra vẫn đang được tiến hành.”
Hiệu trưởng Lâm thời của Trường Bacchus Marsh Grammar, ông Kevin Richardson, chia sẻ với The Epoch Times rằng nhà trường coi trọng vấn đề này và đã liên lạc với cảnh sát.
“Trường Bacchus Marsh Grammar đã biết về việc tạo dựng và lưu hành nội dung video mà trong đó có hình ảnh của các học sinh trong cộng đồng trường,” ông cho biết.
“Hạnh phúc của học sinh Trường Bacchus Marsh Grammar và gia đình của các em là điều vô cùng quan trọng đối với Nhà trường và đang được giải quyết, tất cả học sinh bị ảnh hưởng đều được các nhân viên chăm sóc sức khỏe của chúng tôi giúp đỡ.”
Ông Richardson cho biết nhà trường sẽ không bình luận thêm về vấn đề này và nhấn mạnh tầm quan trọng của quyền riêng tư đối với các học sinh liên quan đến vụ việc.
Mối lo ngại về việc trẻ em đang tham gia vào hành vi xâm hại tình dục
Giám đốc điều hành Dịch vụ [Trợ giúp Nạn nhân bị] Tấn công Tình dục Victoria, Bà Kathleen Maltzahn, nói với AAP rằng việc lan truyền những hình ảnh này cho thấy có sự thiếu thông tin về luật pháp.
Các chương trình AI cho phép tạo ra những nội dung khiêu dâm giả mạo như vậy hiện đang có sẵn cho người dùng Internet.
Bà Maltzahn chia sẻ với AAP: “Chúng tôi đang chứng kiến mức độ đáng kể trẻ em gây ra hành vi tổn hại về tình dục đối với người khác.”
Bà cho biết cần phải đón đầu vấn đề deepfake để hợp tác với các trường học và ngăn chặn trẻ em dính líu vào công nghệ này.
Theo văn phòng Tổng chưởng lý Mark Dreyfus trong một tuyên bố về việc giới thiệu luật deepfake, tài liệu khiêu dâm được tạo và chỉnh sửa kỹ thuật số được chia sẻ mà không có sự đồng ý là một hình thức xâm phạm gây tổn hại và gây đau khổ sâu sắc.
Văn phòng của ông cho biết những hành động như vậy phần lớn nhắm vào phụ nữ và trẻ em gái, “duy trì những định kiến có hại về giới và góp phần gây ra bạo lực dựa trên giới tính.”
Dự luật sửa đổi Bộ luật Hình sự (về Nội dung Tình dục của Deepfake) 2024 đã được giới thiệu vào tuần trước và sẽ áp đặt các hình phạt hình sự đối với những người tạo và chia sẻ nội dung deepfake gây hại.
Theo các dự luật, người phạm tội có thể phải đối mặt với án tù từ sáu đến bảy năm tùy theo mức độ vi phạm.
Các luật mới được đề xướng này sẽ xây dựng dựa trên các hành động khác do chính phủ thực hiện. Điều này bao gồm tăng cường tài trợ cho ủy viên An toàn trên mạng, thúc đẩy việc xem xét Đạo luật An toàn Trực tuyến trước một năm so với kế hoạch, và giải quyết các hành vi có hại như doxxing (*).
(*) Chú thích của người dịch: Doxxing là một hình thức đe dọa trực tuyến bằng cách sử dụng thông tin cá nhân, phát ngôn, hoặc các thông tin bí mật và nhạy cảm để quấy rối.
Chính phủ cũng cam kết cải tổ Đạo luật Quyền riêng tư để cung cấp cho tất cả người dân Úc quyền kiểm soát tốt hơn đối với thông tin cá nhân của họ, đặc biệt là những phụ nữ đang phải chịu đựng bạo lực gia đình.
Nhà khoa học dữ liệu cảnh báo: Hình ảnh giả mạo gây ra tổn thương thực sự đối với các cá nhân
Nhà khoa học dữ liệu Ian Oppermann nói với The Epoch Times rằng các hình ảnh đều tác động đến con người dù là thật hay giả.
Một bé gái (nạn nhân) được mô tả là bị sa sút về thể chất do hậu quả của những hình ảnh giả mạo được các học sinh trong trường lan truyền.
Ông Oppermann nhấn mạnh tầm quan trọng của việc không sử dụng danh tính hoặc đặc điểm của ai đó mà không có sự đồng ý, đặc biệt là trong bối cảnh khó khăn hiện nay của việc xác định sự đồng ý một cách tự nguyện [của người bị sử dụng hình ảnh] trong thời đại mà hình ảnh giả mạo có thể dễ dàng được tạo ra.
Ông nói: “Một phần của bối cảnh khó khăn này là giờ đây chúng ta có thể dễ dàng thực hiện những việc với AI mà trước đây chúng ta chưa từng nghĩ đến.”
“Việc tạo ra những hình ảnh giả mạo khuôn mặt đầy thuyết phục là một hiện tượng mới xuất hiện, [khi mà] bất kỳ ai cũng có thể tạo ra chúng.”
Nếu hình ảnh giả mạo ảnh hưởng đến danh dự hoặc địa vị của một cá nhân, thì cá nhân đó được cho là bị tổn hại nghiêm trọng hơn. Thông tin cá nhân của người này cũng có thể đã bị lợi dụng, như vậy là vi phạm Đạo luật Bảo vệ quyền riêng tư.
Mặc dù hình ảnh deepfake có thể là bất cứ thứ gì, nhưng ông Oppermann đề cập đến các báo cáo truyền thông cho rằng 96% là được sử dụng cho nội dung khiêu dâm, mà 90% trong đó là có hình ảnh phụ nữ.
Tổn thương tâm lý và đau khổ do những hình ảnh như vậy gây ra có thể coi là sự xâm phạm đến sự đoan chính, quyền riêng tư, và quyền cá nhân của nạn nhân.
Ông Oppermann khuyến nghị rằng nên đối phó một cách nghiêm túc với nội dung khiêu dâm giả cũng giống như những nội dung thật, áp dụng các giới hạn độ tuổi và xác minh danh tính chặt chẽ hơn, đồng thời tăng cường giáo dục về mối nguy hiểm của AI cho thanh thiếu niên.
Ông cũng kêu gọi áp dụng rộng rãi hơn siêu dữ liệu về nguồn gốc xuất xứ trên các sản phẩm kỹ thuật số.
Siêu dữ liệu này bao gồm các chi tiết về nguồn gốc, người sáng tạo, và quá trình tạo ra nội dung, cho phép người dùng phân biệt giữa các sản phẩm dữ liệu thực và tổng hợp như video, hình ảnh, hoặc bản ghi âm.
Tuệ Minh biên dịch
Quý vị tham khảo bản gốc từ The Epoch Times
