Nota: El formulario se ha cubierto en idioma: Español

“Psicología inversa” de los grandes modelos de lenguaje

Resumen

Los grandes modelos de lenguaje que integran los omnipresentes ChatGPT y compañía están en las antípodas de la libertad. Son cajas negras de las que intuimos con qué datos se han entrenado (lo que en ciencias sociales ya se denomina extractivismo digital), desconocemos su parametrización y configuración, y vamos descubriendo sus “salvaguardas”/”guardarraíles” a fuerza de toparnos, una y otra vez, con las desigualdades y sesgos que perpetúan en los textos e imágenes que producen.

En esta charla, quiero presentar un reciente trabajo en el que, empleando herramientas del campo de la psicología, avanzamos en la ingeniería inversa de estos LLM. Dando un paso más allá, además de visibilizar los estereotipos que estos modelos integran y reproducen, conseguimos evidencias para discernir entre comportamientos que se derivan de la parcialidad de los datos de entrenamiento y los que, por el contrario, son necesariamente parte de su programación intencionada.

Detalles de la propuesta:

Descripción completa

El trabajo cuyos resultados presentaré es un estudio de investigación que forma parte de una tesis de doctorado titulada “Estudio de las manifestaciones del machismo estructural en las Inteligencias Artificiales Generativas como reflejo de la sociedad online”.

En este estudio, empleamos dos conocidos cuestionarios empleados en investigación en psicología, en concreto, para la evaluación de la conformidad de género: el “Conformity to Feminine Norms Inventory” (CFNI-45) y el “Conformity to Masculine Norms Inventory” (CMNI-46). Estos instrumentos permiten determinar, en diferentes subescalas, la adhesión de una determinada persona a las expectativas sociales relacionadas con cada género. En este caso, hemos usado estos cuestionarios con cuatro de los chatbots más utilizados: ChatGPT, Gemini, Claude y Mistral, con la intención de calificar y cuantificar el alineamiento de estos Grandes Modelos de Lenguaje a los patrones normativos de género en función de sus respuestas generadas.

Spoilers ahead!

Los resultados han revelado que los LLM muestran una conformidad mucho mayor con las normas de género femeninas que con las masculinas. El análisis detallado de las subescalas normativas específicas —que incluyen dimensiones como modestia, complacencia, cuidado relacional… frente a otras como evitación del riesgo o supresión emocional— dibuja un mapa revelador de los valores que atraviesan los textos generados por estas tecnologías… pero también de los que son expresamente programados en estas tecnologías por los equipos y empresas que los desarrollan.

Ponente:

Info personal:

Código de conducta

✅ Aceptado


Volver al índice