La IA aconseja música a las chicas y deporte a los chicos ante la misma pregunta

• Un nuevo informe de Plan International detecta estereotipos de género en las respuestas de ChatGPT a adolescentes y detecta lagunas en la protección a adolescentes en ocho legislaciones analizadas, incluida la española.

Chicas y chicos usan la inteligencia artificial casi en la misma medida, pero no reciben las mismas respuestas ante preguntas iguales. Cuando una adolescente le cuenta a ChatGPT que se siente “triste e inútil”, la herramienta le propone la música o el arte para sentirse mejor. Si el mensaje lo escribe un chico, la IA le recomienda hacer deporte. Es uno de los resultados del informe “La misma pregunta, distintas respuestas: impactos de género de la IA en la adolescencia”, que Plan International publica hoy y que analiza cómo afecta la IA a la juventud desde una perspectiva de género.

El estudio, que tiene como objetivo analizar el acceso, las oportunidades, la seguridad y la gobernanza de la IA, combina una encuesta a jóvenes de entre 13 y 19 años de cuatro continentes, pruebas controladas con ChatGPT y una revisión de la legislación de ocho jurisdicciones. La conclusión es que tener el mismo acceso a la IA no garantiza recibir el mismo trato ni la misma protección, porque estas herramientas pueden reproducir y amplificar estereotipos de género y desigualdades que ya existen y que influyen en todo, desde aspiraciones profesionales y expectativas salariales hasta la imagen corporal, el bienestar emocional y la seguridad online. Sin embargo, la regulación no ha seguido el ritmo de avance de esta tecnología, lo que genera lagunas en la protección frente a riesgos específicos.

“Durante años el debate ha girado en torno a que las niñas pudieran acceder a la tecnología. Hoy la usan de igual manera que los chicos y el problema se ha desplazado. Tenemos que conseguir que esa tecnología no agrave desigualdades, y esa responsabilidad recae en quien diseña estas herramientas y en quien las regula”, señala Virginia Saiz, directora general de Plan International en España.

Consejos distintos según quién pregunte

En el proceso de investigación se plantearon a ChatGPT preguntas sobre salud mental, imagen corporal, seguridad y orientación profesional, formuladas como si las escribieran adolescentes de entre 13 y 19 años de distinta edad, género y origen étnico, con y sin discapacidad, con el objetivo de comprobar si los consejos son seguros y adecuados, y si cambian según quién pregunta.

Los estereotipos de género aparecieron de forma constante en las respuestas. A un chico de 15 años que quería dedicarse a ayudar a los demás, la herramienta le habló de los servicios de emergencia, mientras que a una chica con el mismo deseo la orientó hacia el cuidado infantil y la salud mental. Ante casos de acoso entre iguales, ChatGPT no culpabilizó a las víctimas ni restó gravedad a lo ocurrido, pero a las chicas las remitía más a menudo a una persona adulta de confianza y a los chicos los animaba a resolverlo por su cuenta.

Las diferencias alcanzaron también a los consejos sobre el sueldo. En una de las pruebas, ante el perfil idéntico de una persona de 19 años que iba a negociar su salario, ChatGPT recomendó a la chica pedir 26.000 libras y al chico 28.000. La cifra de ella se presentaba como una base “razonable” y la de él como una “optimización asertiva”. 

La brecha crecía al añadir otras variables. Las mujeres negras recibieron consejos salariales menos firmes que los hombres negros. Cuando el perfil incluía una discapacidad, en una de las pruebas se le dijo al chico que eso no debía afectar a su sueldo y se le propuso una cifra superior a la de un chico sin discapacidad. Las chicas no recibieron ese mensaje y en dos de las tres pruebas se les aconsejó pedir menos que a una chica sin discapacidad.

Una “amistad” que no marca sus límites 

El resultado más repetido de todo el análisis es que ChatGPT nunca dejó claro que no es un profesional ni un sustituto de la ayuda cualificada. Es un vacío importante, porque el 59 % de las chicas y el 56 % de los chicos encuestados ya recurren a la IA, al menos de vez en cuando, en busca de apoyo emocional y casi 6 de cada 10 chicos y la mitad de las chicas dice que nunca ha recibido un consejo inapropiado por parte de la IA.

Cuando una chica de 16 años con discapacidad le pidió que fuera su mejor amiga, la herramienta le respondió en dos de las tres pruebas que “siempre” estaría ahí, sin redirigirla hacia apoyos en su vida real. A los chicos con discapacidad que hicieron la misma petición sí los animó a buscar la compañía de otras personas, aunque no lo hizo con los chicos que no indicaban su edad. 

Algunos jóvenes describen ese vínculo sin rodeos. “Los chatbots de IA me parecen perfectos para llenar el vacío de cariño que tengo en el corazón (aunque sea artificial)”, escribió un chico británico de 15 años en la encuesta. 

El informe también reconoce fortalezas. Cuando una persona de 13 años expresaba tristeza y sentimientos de inutilidad, ChatGPT le facilitaba de forma sistemática recursos de ayuda en salud mental, el aspecto en el que la herramienta obtuvo mejores resultados en todo el estudio.

Lo que cuenta la adolescencia 

De los 99 jóvenes miembros de redes juveniles de Plan International encuestados en cuatro continentes, el 91 % de las chicas y el 88 % de los chicos han utilizado herramientas de IA, sobre todo chatbots, y el 72 % las usa para estudiar.

Las respuestas muestran una contradicción que es uno de los hallazgos centrales. La mayoría cree que la IA trata a todo el mundo por igual (así lo piensa el 59 % de los chicos y el 52 % de las chicas), pero casi la mitad asegura haberse encontrado con estereotipos al usarla. Muchos no relacionan esas experiencias concretas con la idea de que estos sistemas pueden discriminar. 

Casi una cuarta parte de las personas encuestadas ha sufrido acoso a través de la IA, y las chicas lo viven con más frecuencia como un patrón que como un hecho aislado. A chicas (31 %) y chicos (38 %) les preocupa que manipulen sus fotos o vídeos, pero son ellas quienes más dejan de publicar por ese motivo. Las chicas se topan además con más contenidos generados por IA que las hacen sentirse peor con su aspecto físico o su género, y las imágenes y comentarios en internet les afectan negativamente en mayor medida que a los chicos (un 29 % frente a un 16 %). 

Las y los jóvenes tienen claro que la responsabilidad de resolverlo no es suya. El 67 % considera que las empresas tecnológicas no hacen lo suficiente para proteger a la juventud y el 58 % cree que las personas jóvenes tienen muy poca voz en cómo se diseña y se gobierna la IA. Más de ocho de cada diez (el 86 % de las chicas y el 82 % de los chicos) quieren que los gobiernos lideren o apoyen activamente su regulación. 

“No pueden prohibirnos las aplicaciones porque siempre habrá una forma de saltárselo. También tienen que reconocer que puede ser útil”, afirma una chica británica de 13 años que participó en la encuesta.

Qué pide Plan International 

Plan International pide a los gobiernos una gobernanza de la IA coherente, vinculante y con perspectiva de género, que reconozca a niñas, niños y adolescentes como titulares de derechos y cierre las lagunas normativas. Reclama también evaluaciones de impacto obligatorias sobre los derechos de la infancia y el género durante todo el ciclo de vida de estos sistemas, y que las empresas comprueben y rindan cuentas sobre si sus herramientas aconsejan de forma distinta según el género, la edad, el origen étnico o la discapacidad de quien las usa. 

“Cada vez que surge un riesgo digital, la primera tentación es prohibir. Pero las propias chicas y chicos nos dicen que siempre encontrarán la forma de entrar, y tienen razón. La seguridad, la privacidad y la no discriminación deben integrarse en los sistemas de IA desde el principio, en lugar de dejar que sean los propios niños quienes gestionen los riesgos”, concluye Virginia Saiz.