Hàng loạt tổ chức kêu gọi chặn rác AI trên YouTube Kids
Điểm nổi bật
- Hơn 200 tổ chức và chuyên gia ký thư yêu cầu YouTube cấm nội dung “AI Slop” trên YouTube Kids.
- 135 tổ chức giáo dục tham gia ký tên, cùng nhiều chuyên gia về quyền trẻ em.
- 4,25 triệu USD/năm là mức doanh thu mà một số cụm nội dung AI cho trẻ em hàng đầu có thể tạo ra, theo đại diện Fairplay.
- Chỉ khoảng 5% video cho trẻ dưới 8 tuổi được đánh giá là thực sự có chất lượng cao.
- Yêu cầu chính sách gồm dán nhãn nội dung AI, cấm nội dung AI trên YouTube Kids và chặn đề xuất AI cho người dùng dưới 18 tuổi.
Biểu đồ
Tóm tắt
Câu chuyện “rác AI” trên YouTube Kids cho thấy tương lai con người và AI sẽ không chỉ được quyết định ở phòng thí nghiệm hay bàn họp doanh nghiệp, mà còn ở nơi các thuật toán phân phối nội dung va chạm trực tiếp với hành vi trẻ em. Khi chi phí tạo video gần như về 0, động cơ kiếm tiền từ nội dung thấp chất lượng trở nên quá mạnh để thị trường tự điều chỉnh.
Vấn đề cốt lõi ở đây là quản trị. AI không chỉ tạo ra nội dung, mà làm tăng tốc toàn bộ chuỗi sản xuất-phân phối-tối ưu hóa hành vi. Nếu nền tảng không thay đổi cách xếp hạng, dán nhãn và giới hạn độ tuổi, xã hội sẽ phải đối mặt với một thế hệ người dùng nhỏ tuổi lớn lên cùng nội dung máy tối ưu cho sự chú ý hơn là cho phát triển nhận thức.
Chi tiết
Theo VnExpress, hơn 200 tổ chức bảo vệ quyền trẻ em và chuyên gia đã cùng ký thư yêu cầu YouTube cấm hoàn toàn nội dung “AI Slop” khỏi YouTube Kids. Điểm đáng chú ý là bức thư không phản đối AI theo kiểu cảm tính, mà nhắm thẳng vào một vấn đề cấu trúc: khi công cụ tạo video bằng AI trở nên quá rẻ và quá nhanh, thị trường nội dung cho trẻ em bị lấp đầy bởi các video sản xuất hàng loạt, chất lượng thấp, tối ưu để giữ sự chú ý hơn là phục vụ giáo dục hay giải trí lành mạnh.
“AI Slop” là thuật ngữ rất đáng nhớ vì nó mô tả đúng bản chất của vấn đề. Đây không chỉ là nội dung do AI tạo ra, mà là nội dung được tạo với chi phí thấp, tốc độ cao, ít chiều sâu, đôi khi kỳ quặc hoặc méo mó, nhưng lại được tối ưu cho thuật toán lan truyền. Trong môi trường người lớn, hậu quả của loại nội dung này đã đủ đáng lo. Với trẻ em — nhóm người dùng có năng lực kiểm soát hành vi và phân biệt thật-giả chưa hoàn thiện — rủi ro còn lớn hơn nhiều.
Bản thân con số được nêu trong bài đã nói lên động lực kinh tế của hiện tượng này. Đại diện Fairplay cho biết một số cụm nội dung AI cho trẻ em hàng đầu có thể tạo hơn 4,25 triệu USD mỗi năm. Nghĩa là đây không phải những thử nghiệm nhỏ lẻ, mà là mô hình kinh doanh đã hình thành. Một khi phần thưởng tài chính đủ lớn, hệ sinh thái sản xuất nội dung rác sẽ tự tái tạo và mở rộng, trừ khi nền tảng thay đổi thuật toán hoặc quy định pháp lý can thiệp.
Điểm quan trọng hơn là thư ngỏ yêu cầu nhiều biện pháp cụ thể: dán nhãn mọi nội dung AI, cấm hoàn toàn nội dung AI trên YouTube Kids, chặn đề xuất nội dung AI cho người dưới 18 tuổi và cho phép phụ huynh vô hiệu hóa nội dung AI. Đây là dấu hiệu cho thấy cuộc tranh luận về AI đang chuyển từ câu hỏi “AI có tạo ra được không?” sang “AI được phép xuất hiện ở đâu, với ai, và dưới điều kiện kiểm soát nào?”.
Về mặt xã hội, bài toán này là ví dụ điển hình cho tương lai con người và AI: công nghệ sẽ không chỉ cạnh tranh với lao động hay định hình năng suất, mà còn trực tiếp tác động tới quá trình phát triển nhận thức, hành vi và văn hóa. Khi trẻ em lớn lên trong môi trường ngập tràn nội dung do máy tạo, được phân phối bởi thuật toán tối đa hóa thời gian xem, thế giới quan của các em có thể bị định hình bởi những gì hấp dẫn nhất chứ không phải đáng tin nhất.
Phản ứng của YouTube — phủ nhận một phần số liệu và nói đang phát triển công cụ kiểm soát — cho thấy các nền tảng đã bắt đầu nhận sức ép, nhưng chưa đưa ra lộ trình đủ rõ. Đây là kiểu khoảng trống mà chính sách công và chuẩn mực thị trường phải lấp vào. Nếu không, “AI cho mọi người” có thể vô tình biến thành “AI cho mọi sự chú ý”, trong đó nhóm dễ tổn thương nhất là trẻ em.