Nền tảng online ở Trung Quốc xóa bỏ nhiều video AI có nội dung “nam sinh khóc lóc bán hàng để kiếm tiền đóng học phí”.
Theo Sina, những tháng gần đây, nhân vật tên Tiểu Hải gây chú ý người xem với nhiều thước phim kể hoàn cảnh khó khăn như bị bắt nạt ở trường học, ba ngày không được ăn, tham gia cuộc thi bán hàng giành tiền thưởng đóng học phí. Trong các video, nhân vật Tiểu Hải vừa khóc vừa nói: “Cô ơi, cô đừng đi, ủng hộ con một món được không?”, “Cô ơi con sắp đủ học phí rồi, chỉ cần cô mua một đơn thôi”.
Dù video được chú thích “AI tạo sinh”, nhiều người vẫn mắc lừa và mua hàng ủng hộ, số lượng sản phẩm bán ra lên tới hàng triệu. Đối tượng Tiểu Hải nhắm đến là người trung niên, cao tuổi, vì thế xưng hô “cô ơi, dì ơi” hay “ông, bà”. Các sản phẩm thường không quá đắt đỏ, chủ yếu là thực phẩm, đồ dùng gia đình, các loại trang sức giá trị thấp. Một cụ già 79 tuổi từng tin video là thật, bắt chuyến tàu đi tìm Tiểu Hải vì động lòng thương.
Nhân vật ảo Tiểu Hải kể khổ, kêu gọi mua hàng trong video do AI tạo sinh. Ảnh: Sina
Loạt nội dung “Tiểu Hải than khóc, bán hàng” sau đó đã bị xóa trên Douyin. Theo People Daily, các trang video không thể chỉ chú thích “nội dung do AI tạo sinh” là xong trách nhiệm. Trong bối cảnh hiện tại, nền tảng mạng xã hội cần nâng cao trách nhiệm chống tin giả hơn.
Trong tháng 10, nền tảng Douyin triển khai đợt xử lý tình trạng video AI bịa hoàn cảnh khó khăn để thu hút tương tác. Ngày 1-22/10, nền tảng này xử lý hơn 20.000 tài khoản vi phạm điều khoản, xóa gần 50.000 video liên quan.
5 dạng nội dung bị xử lý gồm: Giả người yếu thế để lôi kéo lượt theo dõi; Ngụy tạo bằng cấp, đăng nội dung mang tính chuyên môn; Sử dụng AI mạo danh con người để tiếp thị, buôn bán sản phẩm; Cổ xúy sự xa hoa, mê tín dị đoan nhằm trục lợi; Dàn dựng những chuyện giật gân để lôi kéo tương tác.
Theo thông cáo ngày 23/10, phía Douyin cho biết luôn nỗ lực tạo không gian cho những câu chuyện đa dạng, tích cực và lương thiện, công ty khuyến khích người sáng tạo thực hiện nội dung trên nguyên tắc chân thật, hướng thiện. Hiện nền tảng tăng cường xử lý những video AI bịa chuyện, xây dựng môi trường Internet đáng tin cậy hơn.
AI tạo cơ hội phát triển nội dung số, bên cạnh đó nảy sinh tình trạng nội dung kém chất lượng, độc hại. Ở mảng phim ngắn, từ đầu năm đến nay, Tổng cục phát thanh, truyền hình Trung Quốc yêu cầu gỡ bỏ 68.000 phim dung tục, vi phạm thuần phong mỹ tục, độc hại với nhi đồng, vi phạm bản quyền. Trong số nội dung bị xử lý, phim AI chiếm hơn 90%.
Như Anh