YouTube dùng AI để phát hiện trẻ em giả mạo người lớn

YouTube bắt đầu sử dụng Trí tuệ nhân tạo (AI) để xác định người dùng là trẻ em đang giả vờ là người lớn, trong bối cảnh tăng cường bảo vệ trẻ vị thành niên khỏi các nội dung nhạy cảm.

Theo báo Japan Today, YouTube sẽ triển khai công nghệ AI tại Mỹ nhằm xác định khi nào người dùng là trẻ em nhưng lại khai báo tuổi như người lớn.

Theo YouTube, hệ thống AI có thể ước tính tuổi dựa trên hành vi người dùng, bao gồm loại video đã xem và thời gian hoạt động của tài khoản. Nếu phát hiện tài khoản có khả năng là trẻ em, nền tảng sẽ yêu cầu xác minh bằng thẻ tín dụng, ảnh selfie hoặc giấy tờ tùy thân.

Ông James Beser, giám đốc quản lý sản phẩm mảng YouTube Youth, cho biết công nghệ này cho phép xác định độ tuổi thực tế, thay vì chỉ dựa vào ngày sinh do người dùng khai báo, từ đó áp dụng trải nghiệm và biện pháp bảo vệ phù hợp.

“Chúng tôi đã áp dụng cách tiếp cận này tại một số thị trường khác trong thời gian qua và nó hoạt động khá hiệu quả”, ông nói và khẳng định mô hình mới sẽ bổ sung cho công nghệ hiện có.

Động thái này diễn ra trong bối cảnh áp lực bảo vệ trẻ vị thành niên khỏi nội dung độc hại ngày càng tăng, buộc các nền tảng mạng xã hội phải tăng cường biện pháp bảo vệ. Cả Instagram và TikTok cũng đang bị giám sát chặt chẽ.

Nhiều quốc gia, đặc biệt là Úc, đã siết chặt quy định với mạng xã hội. Tháng trước, Bộ trưởng Truyền thông Úc Anika Wells thông báo nước này sẽ áp dụng đạo luật mới, cấm trẻ em dưới 16 tuổi sử dụng YouTube từ ngày 10-12.

Bà cho biết 40% trẻ em Úc từng xem nội dung độc hại trên nền tảng này và cảnh báo “thuật toán săn mồi” đang đe dọa người dùng nhỏ tuổi.

Năm 2024, Úc cũng từng công bố kế hoạch cấm trẻ em dưới 16 tuổi sử dụng Facebook, TikTok và Instagram.

Trước động thái của Úc, YouTube phản hồi rằng: “YouTube là nền tảng chia sẻ video với thư viện nội dung miễn phí, chất lượng cao, ngày càng được xem nhiều trên màn hình TV. Nó không phải là mạng xã hội”.

Dự luật này của Úc đã được nhiều nước theo dõi sát sao và chính phủ các nước cũng đang cân nhắc khả năng ban hành các lệnh cấm tương tự.