La plataforma anima a los usuarios a denunciar contenidos inapropiados y advierte de que no revisa personalmente todos los vídeos
Por Raúl Limón/El País Tecnológia
“Recordad niños, de lado a lado para llamar la atención, a lo largo para resultados”. Esta escalofriante recomendación sobre el suicidio se ha colado en un vídeo para niños de la aplicación Youtube Kids del canal audiovisual de Google. Una médico estadounidense lo descubrió por casualidad, denunció a través del blog de pediatría pedimom.com y el Washington Post lo ha publicado. Youtube ha retirado el vídeo, pero advierte: “YouTube Kids está diseñado para excluir contenido que no es apropiado para niños, pero no revisamos manualmente todos los videos”.
En la secuencia aparece un personaje denominado Joji (Filthy Frank) que simula cortarse las venas. Fue detectado por una doctora que vio el vídeo mientras atendía a su hija de una pequeña hemorragia nasal. En el minuto 4,47 de los dibujos animados, la película se interrumpe con la mencionada escena y vuelve a la animación.
“Estoy perturbada, triste y disgustada, pero aliviada de haber estado ahí viendo el video con mis propios ojos y haber podido tomar las acciones apropiadas para proteger a mi familia”, escribió la doctora testigo de la secuencia antes de borrar la aplicación y prohibirla en casa.
El blog de pediatría que ha denunciado el caso ha advertido de otros contenidos suicidas y violentos tanto en la aplicación infantil como en el canal general de YouTube.
Uno de los dibujos animados donde la protagonista se suicida y que ha sido denunciado por pedimom.com
Una portavoz del canal ha respondido que YouTube Kids utiliza “sistemas automatizados para elegir contenido del universo más amplio”. La plataforma explica que esta fórmula permite recomendar contenidos, pero advierte: “YouTube Kids está diseñado para excluir contenido que no es apropiado para niños, pero no revisamos manualmente todos los vídeos. Para una experiencia más controlada, se puede deshabilitar la caja de búsqueda”.
Tampoco en el canal principal, YouTube.com, se realiza “filtrado previo” de todos los contenidos, según la plataforma. “Pero tenemos estrictas políticas que determinan qué contenido es apropiado y permanece y qué contenido debe ser eliminado. Confiamos en la comunidad para que nos ayude a identificar el contenido que no cumple con estas políticas; aquellos vídeos marcados se revisan manualmente las 24 horas del día, los siete días de la semana y se eliminan los vídeos considerados inapropiados”.
De esta forma, el canal hace un llamamiento a la comunidad de usuarios para que ejerzan la labor de vigilancia. «Trabajamos para asegurarnos de que los videos en YouTube Kids sean amigables para la familia y nos tomamos el feedback [respuestas] muy en serio. Apreciamos a las personas que nos notifican sobre contenido problemático y hacemos posible que cualquiera pueda marcar un vídeo inapropiado”, afirma la portavoz de la compañía, quien destaca la existencia de “nuevos controles para padres, incluida la posibilidad de seleccionar manualmente vídeos y canales en la aplicación”. “Estamos realizando mejoras constantes en nuestros sistemas y reconocemos que hay más trabajo por hacer», admite Youtube.
«Puertas al campo»
Andoni Anseán, director del máster en Gestión Clínica y Sanitaria en Salud Mental de la Universidad Pablo de Olavide (Sevilla) y presidente de la Sociedad Española de Suicidología, considera que las redes sociales han establecido numerosos controles y barreras a este contenido, en especial a partir de suicidios retransmitidos en directo o casos como los de Ballena azul (iniciativa de retos violentos), pero advierte que “es difícil ponerle puertas al campo”.
Anseán, que también es el promotor de la Sociedad Española para la Prevención del Suicidio, defiende que es necesario el control, pero que este se enfrenta a un contenido infinito que puede ser utilizado bien, para prevenir, o mal, para promover.
Además, destaca que la universalidad de la Red permite casos como el de la vecina vasca que permitió la detención de un ciudadano argentino tras observar un comportamiento que incitaba en Internet al suicidio colectivo. No obstante, advierte que no todas las redes tiene los mismos mecanismos preventivos ante el enorme potencial que tienen..
En España, Anseán ha detectado una presencia mayor de comportamientos de autolesión, una actitud observada principalmente entre adolescentes, aunque no son los únicos, que imitan acciones de su grupo en busca de la aceptación.
Editorial
