Ứng dụng AI giúp bảo vệ trẻ em trên không gian mạng

Ứng dụng Sway.ly không chặn hay cấm truy cập, mà sẽ tự động nhận diện các nội dung độc hại trên TikTok, Instagram, YouTube…, đồng thời điều chỉnh luồng gợi ý theo thời gian thực và cung cấp cho phụ huynh thông tin thực chất về hoạt động trực tuyến của con cái. Hơn 2.000 gia đình tại Mỹ và Anh đã tham gia nghiên cứu hỗ trợ cho sự phát triển của ứng dụng này.

Kết quả cho thấy 77% trẻ em được khảo sát cho rằng mạng xã hội gây hại cho sức khỏe tinh thần, nhưng hầu hết chúng không biết cách kiểm soát. Tại Anh, gần 3/4 số trẻ em tham gia khảo sát cho biết các em đã nhìn thấy nội dung khiến mình khó chịu, buồn bã hoặc tức giận, bất chấp những hạn chế mới được áp dụng.

Đáng chú ý, trong khi phụ huynh lo ngại nhiều nhất về nội dung nhạy cảm, trẻ em lại cho biết tác động nguy hiểm hơn đến từ dòng chảy ngấm ngầm của những thông điệp độc hại, định hình cách các em nhìn nhận bản thân và thế giới.

Chị Daniela Fernandez – đồng sáng lập Sway.ly cho biết: “Chúng tôi đã xây dựng 36 bộ lọc để nhận diện, cảnh báo và đưa ra gợi ý cách ứng phó, thậm chí giúp loại bỏ các thông tin độc hại như bạo lực, thù ghét phụ nữ, tình dục hoá trẻ em,… khỏi nguồn tin của người dùng. Từ đó, người dùng có thể tự chọn nguồn thông tin muốn tiếp xúc và đánh giá chất lượng thông tin mình nhận được”.

Trường tiểu học Notting Hill là một trong những trường thử nghiệm ứng dụng. Trường khẳng định tự hào với chính sách “không Điện thoại thông minh” trong khuôn viên, song cũng thừa nhận ngoài giờ học, điện thoại thông minh vẫn luôn trong tầm tay của trẻ.

Ông Peter Whitmell, Phó Hiệu trưởng Trường Tiểu học Notting Hill cho hay: “Các bậc phụ huynh thường cảm thấy bất lực vì thế giới trực tuyến hiện nay quá khác với trải nghiệm của họ trước đây. Điểm mạnh của Sway.ly là giúp cha mẹ có cái nhìn rõ ràng về những gì đang diễn ra trên mạng, đồng thời nhờ AI mà ứng dụng nắm bắt được các xu hướng mới nhất mà ngay cả chúng tôi, những người làm giáo dục và tiếp xúc với học sinh hằng ngày, cũng khó theo kịp”.

Với sự hỗ trợ của Trí tuệ nhân tạo, ứng dụng Sway.ly đang mở ra một cách tiếp cận mới, giúp phụ huynh và trẻ em đồng hành cùng nhau xây dựng môi trường mạng lành mạnh, an toàn hơn trong thời đại số.