La nueva discriminación en la era de la IA: ¿Qué es el edadismo digital?

Parece que está devolviendo algo. La redacción es cortés, evita palabras discriminatorias y, en apariencia, no tiene la intención de herir a nadie. Sin embargo, ¿qué pasaría si dentro de esa "amabilidad" se encontraran prejuicios que se han acumulado en la sociedad durante mucho tiempo?

El estudio presentado por un equipo de investigación del Instituto Avanzado de Ciencia y Tecnología de Corea, KAIST, destacó precisamente este problema. El objeto del estudio fue el modelo de IA generativa de OpenAI, GPT-4o. El equipo de investigación pidió a la IA que describiera las personalidades y características de personas de edades comprendidas entre 10 y 90 años, en intervalos de diez años, y analizó qué imágenes de edad estaban incluidas en esos textos.

Lo que se reveló no fue una discriminación flagrante. Tampoco fueron palabras que insultaran a los ancianos. Más bien, la IA mostró una tendencia a describir a las personas mayores con palabras positivas como "amables", "confiables", "consideradas" y "sabias".

El problema radica en la forma de esa afirmación.

Según el estudio, las personas mayores de 60 años fueron altamente valoradas en términos de "calidez", mientras que en aspectos como "capacidad", "profesionalismo", "eficiencia", "autonomía" y "asertividad", tendieron a ser representadas de manera más débil que las generaciones más jóvenes. En otras palabras, la IA no está negando a las personas mayores, pero podría ser más propensa a describirlas como "amables pero no muy competentes".

Este es un punto muy importante en el problema actual de los sesgos en la IA. Porque la discriminación no siempre se manifiesta en palabras ofensivas. Más bien, los prejuicios que sobreviven durante mucho tiempo en la sociedad a menudo toman la forma de "buenas intenciones" o "elogios".

Por ejemplo, la expresión "los ancianos son tranquilos y cuidadosos" puede sonar positiva a primera vista. Sin embargo, si se asocia al mismo tiempo con la imagen de "débiles ante lo nuevo", "con menor capacidad de juicio" o "más aptos para ser apoyados que para liderar", entonces hay una fijación de roles basada en la edad.

Si la IA genera repetidamente estas imágenes, los usuarios pueden adoptar esa perspectiva de manera inconsciente. Incluso cuando las personas mayores interactúan con la IA, pueden sentir que "ya no están en posición de desafiar" o "no son los protagonistas en el uso de la tecnología digital". Las palabras de la IA no son simplemente texto, sino que pueden influir en la autopercepción y en la percepción social de las personas.

Método de investigación: preguntas "neutrales" a la IA

Lo interesante de este estudio es que el equipo de investigación no hizo preguntas que indujeran prejuicios de manera explícita.

Los prompts utilizados eran neutrales, solicitando a la IA que describiera la personalidad de personas de edades específicas: 10, 20, 30, 40, 50, 60, 70, 80 y 90 años. El equipo de investigación recopiló un total de 900 muestras de texto de GPT-4o.

Luego, analizaron los textos basándose en el "modelo de contenido de estereotipos" utilizado en psicología social. Este modelo captura cómo las personas perciben a los grupos sociales en dos ejes principales. Uno es "calidez", que se relaciona con la amabilidad, confiabilidad, consideración y cooperación. El otro es "capacidad", que se relaciona con la competencia, profesionalismo, eficiencia, autonomía y asertividad.

Vistos desde estos dos ejes, la estructura del prejuicio se vuelve más detallada. Algunos grupos pueden ser percibidos como "fríos pero competentes", mientras que otros pueden ser vistos como "cálidos pero incompetentes". Los estereotipos comúnmente dirigidos a las personas mayores tienden a ser del segundo tipo. A cambio de palabras positivas como "amables", "experimentados" y "tranquilos", se subestima su "competitividad", "capacidad de ejecución" y "adaptación a lo nuevo".

La tendencia mostrada por GPT-4o en este estudio coincide con esto. En las descripciones de personas mayores de 60 años, las expresiones relacionadas con la calidez eran prominentes, mientras que las relacionadas con la capacidad y la asertividad eran relativamente débiles. En particular, se señaló que las descripciones de personas mayores de 70 años tendían a ser más homogéneas. Es decir, a medida que aumenta la edad, es más probable que se resuma en "características de personas mayores" en lugar de "diferencias individuales".

Por qué el "prejuicio amable" es peligroso

El problema que muestra este estudio no es simplemente que la IA hable mal de las personas mayores. Más bien, la IA las describe como "buenas personas". Y precisamente por eso es peligroso.

Las personas son más propensas a estar alerta ante una discriminación evidente. Si surgiera una expresión flagrante como "los ancianos no son útiles", muchos usuarios notarían el problema. Los desarrolladores también podrían detectarlo fácilmente con filtros y medidas de seguridad.

Pero, ¿qué pasa con una expresión como "los ancianos son cálidos, tranquilos y un apoyo para los demás"? A primera vista, parece un texto sin problemas. Sin embargo, si la misma IA utiliza más palabras como "innovadores", "ambiciosos", "con liderazgo" y "expertos en resolución de problemas" para describir a los jóvenes o adultos de mediana edad, entonces surge una clara diferencia.

La discriminación no solo reside en palabras que menosprecian a alguien, sino también en palabras que encierran a alguien en un rol específico.

Describir constantemente a las personas mayores como "apoyo", "observadores" o "amables" les priva de la oportunidad de ser imaginados como "desafiantes", "decisores", "transformadores" o "expertos en tecnología". Si esto se acumula, puede llevar a diferencias en el trato por edad en empleo, educación, atención médica, servicios administrativos y apoyo digital.

Por ejemplo, si una empresa utiliza IA para evaluar personal o redactar anuncios de empleo, y el modelo implica que "los jóvenes son proactivos y tienen potencial de crecimiento" mientras que "las personas mayores son estables pero débiles ante el cambio", esto podría influir en las expresiones y decisiones. En el ámbito del cuidado y la medicina, si las personas mayores son representadas excesivamente como sujetos que deben ser protegidos en lugar de tomadores de decisiones autónomos, sus derechos de elección podrían ser ignorados.

¿Qué es el ageísmo digital?

Una palabra clave importante en este estudio es "ageísmo digital". Esto se refiere al fenómeno en el que los sesgos basados en la edad se infiltran en el diseño, los datos, la operación y el entorno de uso de las tecnologías digitales y los sistemas de IA, obstaculizando la participación y las oportunidades de las personas mayores.

El ageísmo digital no se limita a "las personas mayores tienen dificultades para usar smartphones". El problema es más estructural. La diversidad de las personas mayores no está suficientemente representada en los datos de aprendizaje de la IA. Hay pocas perspectivas de generaciones mayores en los equipos de desarrollo. El diseño de servicios toma como estándar el comportamiento de uso de los jóvenes. Las personas mayores están excluidas de las encuestas y pruebas de usuarios. Estos elementos combinados hacen que la tecnología misma reproduzca la discriminación por edad.

Además, la salida de la IA se presenta en un lenguaje muy natural. Las respuestas de las IA conversacionales se sienten más como "consejos dirigidos a uno mismo" que los resultados de un motor de búsqueda o el texto de un anuncio. Por lo tanto, los estereotipos generados por la IA pueden infiltrarse silenciosamente en la conciencia del usuario.

Por ejemplo, si un usuario mayor consulta a la IA sobre "querer asumir un nuevo trabajo", "emprender" o "aprender programación", y la IA, con buena intención, solo devuelve consejos cautelosos como "dentro de un rango razonable", "consultar con los demás" o "priorizar la salud", mientras que a los usuarios jóvenes les dice "asumir desafíos activamente", "crear un portafolio" o "investigar el mercado", entonces hay una discriminación menos visible.

El tono del consejo es diferente. Las expectativas son diferentes. La forma de imaginar el futuro es diferente. Este es el sesgo de edad en la era digital.

Reacciones en las redes sociales: ¿"La IA es un espejo de la sociedad" o "aún se necesita más verificación"?

Las reacciones en las redes sociales sobre este tema, en el ámbito de búsqueda pública, no han sido de una difusión explosiva, sino que han captado la atención silenciosa entre aquellos interesados en la ética de la IA, investigadores y seguidores de noticias tecnológicas. Incluso en la página del artículo original, el número de compartidos y las reacciones en los comentarios al momento de la publicación eran limitados.

Sin embargo, la percepción del tema en las redes sociales se divide en varias direcciones.

La primera es la reacción de que "la IA es un espejo de los prejuicios de la sociedad". Las IA generativas aprenden de los vastos textos disponibles en Internet. Si las percepciones de edad, ocupación, familia y representaciones mediáticas en esos textos están sesgadas, la salida de la IA también lo estará. En otras palabras, que la IA describa a las personas mayores como "cálidas pero de baja capacidad" no es solo un problema de la IA, sino el resultado de cómo la sociedad humana ha representado a las personas mayores.

La segunda es la reacción de que "las palabras positivas también pueden ser discriminatorias". En las redes sociales, ya se ha debatido mucho sobre los sesgos de género y raza. Sin embargo, el sesgo de edad a menudo se pasa por alto. Tratar a las personas mayores como "adorables", "tranquilas" o "reconfortantes" no se critica fácilmente debido a la falta de malicia. Sin embargo, si esto lleva a una cultura que subestima la capacidad o el poder de decisión de las personas mayores, entonces es un problema.

La tercera es una reacción cautelosa que señala que "el objeto de estudio está limitado a un modelo y un momento específico, por lo que se debe tener cuidado al generalizar". Este estudio se centró en GPT-4o, un modelo que se actualiza continuamente. Además, la redacción del prompt, el idioma y el contexto cultural también pueden cambiar la salida. Por lo tanto, es prematuro concluir que "todas las IA generativas tienen el mismo sesgo" basándose solo en estos resultados.

La cuarta es una reacción práctica que dice "por eso se necesita un método de evaluación". Dado que la IA se está integrando en la sociedad, es necesario medir el rendimiento del modelo no solo por su precisión o velocidad, sino también por cómo representa a cada grupo, qué roles asigna y si no limita las posibilidades de alguien. En las discusiones entre desarrolladores de IA y responsables de políticas en las redes sociales, cómo incorporar esta evaluación de sesgos en el desarrollo de productos es un tema importante.

¿Por qué el sesgo de edad se pasa por alto fácilmente?

En las discusiones sobre sesgos en la IA, hasta ahora se han destacado principalmente el género, la raza, la nacionalidad y la religión. No cabe duda de que son importantes. Sin embargo, la edad tiende a ser relegada sorprendentemente.

Una de las razones es que la edad es un atributo que cambia para todos. A diferencia de la raza o el lugar de nacimiento, todos envejecen. Por lo tanto, la discriminación por edad tiende a ser tratada como una "diferencia generacional natural" o "diferencia de etapa de vida" en lugar de "discriminación contra alguien en particular".

Sin embargo, en realidad, los prejuicios basados en la edad tienen un impacto grave. En la contratación, se considera que "los jóvenes son más flexibles". En la medicina, se juzga que "es normal por la edad". En los servicios digitales, se asume que "las personas mayores no los usarán". En la educación, se dice que "es tarde para aprender ahora". Estos juicios se basan en categorías de edad, no en la capacidad individual.

Además, con la proliferación de la IA generativa, este problema ha entrado en una nueva etapa. La IA se infiltra en todos los aspectos de la vida, desde la redacción de textos, la creación de anuncios, la generación de imágenes, hasta la respuesta en el servicio al cliente. Si la IA tiene estereotipos sobre la edad, ese sesgo se redistribuye en la sociedad en forma de textos e imágenes masivos.

Además, ese sesgo es fácil de creer porque "lo dice la IA". Aunque se pueda argumentar contra los prejuicios humanos, la salida de la IA parece estadística y neutral. Esa apariencia de neutralidad hace que el sesgo sea aún más difícil de detectar.

No reducir a las personas mayores a "una sola imagen"

Un punto especialmente notable en este estudio es la observación de que las descripciones de personas mayores de 70 años tienden a ser más homogéneas. Esto coincide con la tendencia de la sociedad a ver a las personas mayores como un solo grupo.

Sin embargo, las personas de 70, 80 y 90 años no son homogéneas, por supuesto. Algunos continúan trabajando. Otros aprenden nuevas tecnologías. Algunos emprenden. Otros lideran actividades comunitarias. Algunos reciben cuidados, mientras que otros cuidan a alguien. Sus opiniones políticas, pasatiempos, situación económica, estado de salud y habilidades digitales varían enormemente.

A pesar de esto, si la IA promedio describe la "característica de las personas mayores", la diversidad de la realidad desaparece. Esto también puede ocurrir con las IA generadoras de imágenes. Si se ingresa "persona de 80 años", solo aparecen imágenes de cabello blanco, arrugas, bastones, expresiones tranquilas y contextos de cuidado. Si no se representan adecuadamente personas que practican deportes, investigan, dirigen empresas, disfrutan de juegos, tienen relaciones amorosas o participan en movimientos políticos, la imagen de las personas mayores se empobrece.

Lo mismo ocurre con las IA generadoras de texto. No está mal que la IA describa a las personas mayores como "experimentadas y tranquilas". El problema es que eso es lo único que describe. Las personas mayores también tienen ambiciones, ira, competitividad, deseo de aprender, fracasos y crecimiento. Si no se puede expresar esa complejidad, la IA no está entendiendo a los humanos, sino simplemente etiquetándolos con un promedio.

Lo que se espera de los desarrolladores

La solución a este problema no es simplemente "prohibir las palabras discriminatorias". Los sesgos como los de este caso no aparecen como palabras discriminatorias. Más bien, se esconden en palabras corteses y positivas.

Por lo tanto, se requiere una evaluación más detallada por parte de los desarrolladores de IA. ¿Qué adjetivos usa la IA con más frecuencia para una determinada franja de edad? ¿Qué roles asigna? ¿Qué capacidades asume? ¿Cambia el tono del consejo según la edad? ¿Está sobrevalorando los riesgos? ¿Está limitando las oportunidades de desafío? Estos puntos deben incorporarse en la evaluación del modelo.

Además, es importante que participen diversas generaciones en el proceso de desarrollo. Si solo ingenieros jóvenes diseñan servicios de IA para