La organización Plan Internacional alertó sobre cómo la inteligencia artificial tiende a replicar estereotipos de género al interactuar con la población adolescente. Según el reporte titulado La misma pregunta, distintas respuestas: impactos de género de la IA en la adolescencia, herramientas como ChatGPT no mantienen una postura neutral, sino que proyectan desigualdades sociales en sus interacciones.
David del Campo, director de Incidencia y Comunicación de Plan Internacional, señaló que tras realizar pruebas con perfiles simulados de varones y mujeres, se detectaron respuestas diferenciadas ante interrogantes idénticas sobre temas de bienestar emocional, empleo y asuntos personales. El experto enfatizó la necesidad de que las compañías tecnológicas actúen con mayor transparencia y asuman la responsabilidad por el impacto de sus algoritmos.
Sesgos detectados en las respuestas de la IA
El estudio evidenció que la tecnología ofrece sugerencias basadas en roles tradicionales de género. Por ejemplo, ante una consulta sobre desánimo, el sistema sugiere actividades distintas: música para las mujeres y deporte para los hombres. De igual forma, en temas de vocación profesional, si ambos perfiles manifiestan interés por el servicio social, la IA orienta a los varones hacia emergencias y a las mujeres hacia el cuidado infantil o la salud mental.
Del Campo advirtió que, aunque estos casos parezcan aislados, su frecuencia puede terminar condicionando las metas y expectativas de la juventud. Además, el informe detectó que los algoritmos también pueden amplificar discriminaciones por discapacidad u origen étnico, especialmente en lo que respecta a salarios y oportunidades de trabajo.
Riesgos en salud mental y seguridad digital
Una de las mayores inquietudes de la entidad es que los adolescentes utilicen la IA como un sustituto para tratar problemas de salud mental. El director de la organización explicó que el sistema no es lo suficientemente claro al aclarar que sus respuestas no reemplazan la asistencia de un profesional, lo cual es peligroso debido a la disponibilidad constante y la naturaleza complaciente de estas herramientas.
Asimismo, se mencionaron peligros como el acoso digital, la manipulación de imágenes y la propagación de violencia, impulsados por modelos de negocio que buscan retener la atención del usuario. En este sentido, la organización exige una regulación que priorice la seguridad de los menores y mecanismos reales de verificación de edad, criticando que actualmente sea posible acceder a contenidos restringidos con un simple clic.
Llamado a la regulación gubernamental
Plan Internacional instó a las autoridades a retomar la aprobación de leyes de protección para menores en entornos digitales, las cuales se encuentran pausadas debido a procesos electorales. Del Campo aclaró que el objetivo no es perseguir la tecnología, sino garantizar la supervisión de los algoritmos.
“No es una cuestión de criminalizar”
El representante subrayó que, si bien la inteligencia artificial es una herramienta valiosa para el conocimiento, las empresas dueñas de estas plataformas deben integrar la seguridad desde el diseño de sus productos.
