Source: The Conversation – (in Spanish) – By José María Bolufer Francia, Doctorando Investigador de la Sociedad Digital, Universidad Villanueva
Piensen lo que significa educar a los niños en un mundo donde, desde el primer día, la mayoría de sus interacciones son con un sistema de inteligencia artificial (IA) y no con un ser humano. Es el mayor y más aterrador experimento psicológico de la historia, y nosotros lo estamos llevando a cabo.
Así terminó el historiador Yuval Noah Harari su intervención en el Foro Económico Mundial, celebrado en Davos el pasado mes de febrero.
Este mensaje advierte de las capacidad que sistemas autónomos tienen para definir y alterar marcos sociales y en cómo se transmiten los rasgos culturales a las siguientes generaciones. Precisamente, en su último libro, Nexus, destaca la importancia de los relatos en el proceso de transmisión de valores y tradiciones culturales y, por tanto, en la propia construcción de la sociedad.
Por lo tanto, si el lenguaje y la creación de historias y relatos son tan determinantes en el desarrollo social, ¿a qué riesgos nos estamos enfrentando ahora que los sistemas de IA pueden crear nuevos contenidos sin ningún tipo de supervisión humana? ¿Podrán definir cómo serán en el futuro los valores humanos?
Tecnología que crea narrativas
Actualmente, millones de personas utilizamos la IA para infinidad de tareas. En concreto, los últimos datos publicados por Eurostat señalan que tres de cada cuatro jóvenes españoles entre 16 y 24 años –en pleno proceso de desarrollo personal– han usado la IA generativa en los últimos meses.
Desde su irrupción, se ha hablado mucho de sus implicaciones éticas y económicas. Sin embargo, menos conocidos son sus potenciales efectos en el proceso de formación cultural de los más jóvenes.
Para comprender mejor la influencia que pueden llegar a tener, podemos definir evolución cultural como el proceso por el cual transmitimos información relacionada con los conocimientos, creencias, valores, costumbres o cualesquiera otros hábitos adquiridos por una persona como miembro de la sociedad.
Este proceso tiene tres propiedades fundamentales: la aparición de nuevos rasgos culturales, la selección y adaptación de las costumbres más compatibles con la situación social existente y, finalmente, la transmisión a las siguientes generaciones.
Hasta la fecha, estas tres características habían sido controladas por seres humanos. Sin embargo, esto está cambiando. No es que la tecnología sea solo una mera intermediaria de la información y el conocimiento, como ha sucedido a lo largo de la historia con los libros, la radio y televisión o, más recientemente, con las redes sociales: ahora actúa como una entidad totalmente independiente, capaz de distorsionar la información y, sobre todo, de crear nuevos contenidos.
Sustitución de valores existentes
En particular, las herramientas de IA generativa están demostrando ser muy efectivas a la hora de crear textos o imágenes. Lo hacen recombinando información, integrando y mezclando datos disponibles.
De este modo, contribuyen a la generación de nuevos relatos, que tienen el potencial de interferir en los procesos de desarrollo y aprendizaje, sobre todo, teniendo en cuenta que más de un 60 % de los jóvenes consideran que la relación con la IA reemplaza, en cierta medida, la conversación con las personas.
Hagamos un experimento
Un sencillo experimento, para entender mejor este riesgo, consiste en pedirle a una IA generativa: “cuéntame un cuento y explícame su moraleja”.
Los resultados de este ejercicio son realmente interesantes, cuando se analizan desde una visión crítica. No es difícil encontrar rastros de relatos clásicos que la IA integra al generar su respuesta. Lo que hace es seleccionar ciertos contenidos existentes, ajustar los mensajes y amplificar o silenciar aquellos que el algoritmo considera más o menos relevantes.
El resultado es un relato original que puede ser transmitido a las nuevas generaciones. De este modo, influiría en el proceso de desarrollo social y en los valores aceptados socialmente en cada momento.
¿Máquina constructora de cultura?
La aparición de sistemas inteligentes con capacidad de generar nuevos relatos a una escala y velocidad sin precedentes rompe drásticamente con los marcos tradicionales de evolución cultural. El principal impacto lo encontramos en los más jóvenes, que se encuentran en una etapa vital en la que se definen cuáles serán sus pilares morales y rasgos culturales.
El experimento global que implica el uso de inteligencia artificial por la población a gran escala, tal y como lo señalaba Harari, nos obliga a replantearnos seriamente la manera en la que debemos gestionar y supervisar estas incipientes tecnologías. Es necesario ir más allá de los parámetros éticos para identificar los riesgos que conlleva su uso. Lo que está en juego es la definición de los marcos y valores culturales que sustentarán a las futuras generaciones.
Beatriz Feijoo recibe fondos del Ministerio de Ciencia, Innovación e Universidades, proyecto de investigación ref. PID2024-155709NB-I00 (DIGETHICA).
José María Bolufer Francia no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.
– ref. ¿Es la IA la nueva constructora de valores culturales? – https://theconversation.com/es-la-ia-la-nueva-constructora-de-valores-culturales-276587