Informe alerta sobre riesgos de contenido inapropiado y daños emocionales en menores por chatbots personalizados.
Un informe de la organización Common Sense Media alerta sobre los riesgos “inaceptables” que representan las aplicaciones de acompañamiento basadas en inteligencia artificial para menores de 18 años.
Estas apps, como Character.AI, Replika y Nomi, permiten conversaciones con chatbots personalizados que pueden incluir contenido inapropiado, como temas sexuales o incitación a autolesiones.
El informe surge tras una demanda por la muerte por suicidio de un adolescente de 14 años que interactuó con uno de estos chatbots, y destaca que los peligros no son casos aislados.
Investigaciones realizadas en colaboración con la Universidad de Stanford mostraron que estas plataformas suelen ofrecer respuestas dañinas y consejos peligrosos para jóvenes vulnerables.
Aunque algunas empresas aseguran que sus servicios son solo para adultos y han implementado medidas de seguridad, investigadores señalan que los adolescentes pueden evadir estos controles fácilmente, y las protecciones actuales son insuficientes.
Los expertos recomiendan que los padres eviten que sus hijos usen estas aplicaciones hasta que existan salvaguardas más estrictas que protejan su bienestar mental y emocional.
Fuente: CNN
