Hàng Loạt Tổ Chức Kêu Gọi Chặn Nội Dung AI Độc Hại Trên YouTube Kids

Làn sóng nội dung được tạo bởi trí tuệ nhân tạo (AI) đang tràn ngập YouTube Kids, và các nhà vận động đang lên tiếng báo động. Hơn 30 tổ chức hàng đầu về quyền trẻ em, quyền riêng tư kỹ thuật số và an toàn trực tuyến đã cùng nhau gửi một bức thư ngỏ đến ban lãnh đạo YouTube, yêu cầu có các biện pháp khẩn cấp để bảo vệ người dùng nhỏ tuổi khỏi 'rác AI' độc hại.

Thư Ngỏ Và Những Yêu Cầu Cụ Thể

Bức thư, được ký bởi một liên minh gồm các tổ chức như Common Sense Media, Fairplay và Center for Digital Democracy, đã được gửi trực tiếp đến Giám đốc điều hành YouTube, Neal Mohan. Nội dung chính của thư là lời kêu gọi YouTube phải thực hiện trách nhiệm của mình trong việc bảo vệ trẻ em khỏi những rủi ro mới nổi từ công nghệ AI. Các tổ chức này chỉ ra rằng nền tảng hiện đang chứa đầy những video AI kỳ dị, đáng sợ hoặc có nội dung lừa đảo, được tạo ra để thu hút lượt xem từ trẻ nhỏ, thường vượt qua các bộ lọc và chính sách hiện có.

Mối Nguy Hiểm Từ Thế Giới Video AI Kỳ Quặc

Vấn đề không chỉ dừng lại ở những video vô nghĩa. Các tổ chức cảnh báo về nhiều mối nguy hiểm cụ thể. Thứ nhất là rủi ro về sức khỏe tâm thần và cảm xúc. Trẻ em có thể tiếp xúc với những hình ảnh đáng sợ hoặc bạo lực được tạo bởi AI, gây ra lo lắng, ám ảnh hoặc rối loạn giấc ngủ. Thứ hai là vấn đề quyền riêng tư và bóc lột. Một số video sử dụng hình ảnh hoặc giọng nói tổng hợp của trẻ em thật, đặt ra câu hỏi lớn về sự đồng thuận và khả năng bị lạm dụng.

Chúng tôi kêu gọi YouTube ngay lập tức ngừng đề xuất các video được tạo bởi AI cho người dùng YouTube Kids và thực thi các chính sách của mình một cách mạnh mẽ để loại bỏ nội dung AI có hại.

Thứ ba, những video này thường được tối ưu hóa để giữ chân trẻ em trên màn hình với nội dung lặp đi lặp lại, chất lượng thấp, cản trở sự phát triển nhận thức và sáng tạo lành mạnh. Cuối cùng, chúng có thể chứa đựng những thông tin sai lệch nguy hiểm được ngụy trang dưới dạng hoạt hình hoặc bài hát thiếu nhi.

Trách Nhiệm Của Nền Tảng Và Phản Hồi Từ YouTube

Các tổ chức vận động nhấn mạnh rằng với tư cách là công ty sở hữu nền tảng, YouTube phải chịu trách nhiệm chính trong việc ngăn chặn sự lây lan của nội dung độc hại. Họ yêu cầu YouTube minh bạch hơn về cách thức thuật toán đề xuất các video AI, tăng cường kiểm duyệt bằng cả công nghệ và con người đối với nội dung dành cho trẻ em, và có chính sách rõ ràng trong việc gắn nhãn hoặc hạn chế video được tạo bởi AI trên YouTube Kids.

Phía YouTube, thông qua một phát ngôn viên, đã phản hồi rằng họ đang đầu tư mạnh mẽ vào việc bảo vệ trẻ em và gia đình. Công ty cho biết họ có các chính sách nghiêm ngặt cấm nội dung gây hại và lừa đảo trên YouTube Kids, đồng thời sử dụng sự kết hợp giữa hệ thống tự động và đánh giá thủ công để thực thi các chính sách này. Tuy nhiên, họ thừa nhận rằng đây là một lĩnh vực đang phát triển nhanh chóng và cam kết sẽ tiếp tục cải thiện.

Điều Này Có Nghĩa Gì Với Bạn?

Nếu bạn là phụ huynh, giáo viên hoặc người chăm sóc trẻ em tại Việt Nam, câu chuyện này không chỉ là tin tức từ nước ngoài. Nó phản ánh một thách thức toàn cầu mà bất kỳ đứa trẻ nào có thể tiếp cận internet đều có nguy cơ đối mặt. Sự phổ biến của YouTube và các nền tảng video tương tự ở Việt Nam là rất lớn, và trẻ em Việt Nam cũng đang xem các video bằng nhiều ngôn ngữ, trong đó có cả những nội dung AI kỳ quặc được đề cập. Việc thiếu các công cụ kiểm soát và nhận thức về vấn đề này có thể khiến trẻ vô tình tiếp xúc với nội dung độc hại.