Theo các nhà điều tra an toàn trẻ em, những hình ảnh đó sẽ gây ảnh hưởng đến nỗ lực tìm kiếm nạn nhân và chống lạm dụng trong thế giới thực.
Hàng nghìn hình ảnh tình dục trẻ em do AI tạo ra đã được tìm thấy trên các diễn đàn web đen. Người dùng trên các diễn đàn này còn chia sẻ hướng dẫn chi tiết về cách những kẻ ấu dâm có thể tạo hình ảnh AI thực tế về nội dung khiêu dâm trẻ em.
Rebecca Portnoff, Giám đốc khoa học dữ liệu tại Thorn, một nhóm phi lợi nhuận về an toàn trẻ em cho biết các hình ảnh của trẻ em, bao gồm cả nội dung của các nạn nhân, đang được sử dụng lại cho mục đích thực sự xấu xa này.
Kể từ mùa thu năm ngoái, Thorn đã chứng kiến sự gia tăng hàng tháng về mức độ phổ biến của những hình ảnh AI trên dark web.
Một vấn đề nữa nảy sinh từ sự bùng nổ loại nội dung hình ảnh như vậy, là nó có khả năng gây khó khăn cho những nỗ lực tìm kiếm nạn nhân và chống lạm dụng thực sự vì cơ quan thực thi pháp luật sẽ phải mất nhiều thời gian hơn để điều tra xem một bức ảnh là thật hay giả.
Hình ảnh tình dục trẻ em do AI tạo ra có thể “gây nhiễu” hệ thống theo dõi trung tâm được xây dựng để chặn tài liệu đó khỏi web vì hệ thống này được thiết kế chỉ để ghi lại những hình ảnh lạm dụng được báo cáo, thay vì phát hiện những hình ảnh mới được tạo.
Các quan chức thực thi pháp luật, những người làm việc để xác định những đứa trẻ là nạn nhân, giờ đây có thể buộc phải dành thời gian để xác định xem những hình ảnh đó là thật hay do AI tạo ra.
Portnoff giải thích: “Việc xác định nạn nhân đã là một công việc mò kim đáy bể, khi cơ quan thực thi pháp luật cố gắng tìm ra một đứa trẻ đang bị tổn hại. Trong khi đó, những công cụ này được sử dụng quá dễ dàng, khiến mọi thứ trở nên khó khăn hơn”.
Những hình ảnh này cũng đã gây ra một cuộc tranh luận về việc liệu chúng có vi phạm luật bảo vệ trẻ em của liên bang hay không vì những bức ảnh thường mô tả những đứa trẻ không thực sự tồn tại.
Theo The Washington Post, các quan chức của Bộ Tư pháp chống bóc lột trẻ em cho biết những hình ảnh như vậy vẫn là bất hợp pháp ngay cả khi đứa trẻ được mô tả là do AI tạo ra.
Tuy nhiên, loại tội phạm như này chưa có tiền lệ, nghĩa là chưa có trường hợp nghi phạm nào trước đây ở Mỹ bị buộc tội tạo ra nội dung khiêu dâm trẻ em deepfake.
Hồi tháng 4, một người đàn ông ở Quebec, Canada đã bị kết án 3 năm tù vì sử dụng AI để tạo ra hình ảnh khiêu dâm trẻ em. Đây là phán quyết đầu tiên về loại hình này ở quốc gia này.
