Source: The Conversation – (in Spanish) – By Bárbara Castillo Abdul, Docente e Investigadora Senior, UDIT – Universidad de Diseño, Innovación y Tecnología
Un amigo nos cuenta por WhatsApp que está atravesando un momento difícil. Queremos responder, pero no encontramos las palabras. Pedimos a un sistema de inteligencia artificial que nos ayude a redactar un mensaje empático. El resultado es atento, claro y sensible. Lo revisamos y lo enviamos. Pero cuando nuestro amigo recibe esa respuesta, ¿qué puede deducir de nosotros a partir de ella?
Durante mucho tiempo, hemos utilizado las palabras de los demás como indicios de cualidades que no podemos observar directamente. Una respuesta cuidadosa puede interpretarse como atención; una disculpa bien formulada, como arrepentimiento; un mensaje sensible, como empatía. La inteligencia artificial generativa altera esta relación porque puede intervenir en la producción de esas señales, sin que necesariamente describan a la persona a quien terminamos atribuyéndoselas.
La IA puede simular calidez y empatía
La evidencia obliga a evitar la idea simplista de que la IA produce mensajes “más fríos”, pues más bien ocurre al contrario. Tras analizar 427 mensajes de apoyo, un equipo de investigadores de la Universidad Estatal de Ohio los catalogó según cuatro patrones de producción: humano, IA, IA modificada y humano guiado por IA. Los mensajes generados o modificados con IA incluían, con mayor frecuencia, apoyo informativo y emocional y eran evaluados como más útiles. Sin embargo, cuando las personas utilizaban la inteligencia artificial como orientación y escribían ellas mismas, incorporaban más autorrevelación personal y sus mensajes eran percibidos como más auténticos.
Algo similar ha encontrado un estudio de este año: los participantes preferían recibir empatía humana, aunque valoraban más favorablemente determinadas respuestas generadas por IA. En la misma línea, se ha observado que los mensajes elaborados por un sistema de inteligencia artificial pueden hacer que las personas se sientan más escuchadas, un efecto que disminuye cuando conocen la procedencia de esos textos.
Cuando la calidad del mensaje deja de revelar quiénes somos
La cuestión, por tanto, no es si una máquina “siente” empatía. Sabemos que puede producir lenguaje que las personas perciben como cercano, sin que eso signifique que experimenta el estado psicológico asociado a ella.
Como hemos visto, el uso de respuestas automáticas puede mejorar ciertos rasgos de la interacción, mientras que sospechar que el interlocutor utiliza IA empeora la valoración que hacemos de ellos. Es decir, no tenemos en cuenta solo el contenido: las personas también inferimos cuánto esfuerzo, atención o implicación humana creemos que existe detrás.
Por otra parte, algunos autores plantean que la IA generativa puede intervenir no solo en cómo redactamos un mensaje, sino también en qué decidimos decir y en cómo lo adaptamos a cada destinatario. Esto puede ayudarnos a comunicarnos mejor, pero hace más difícil saber cuánto de lo que leemos refleja directamente la forma de expresarse y las decisiones de quien finalmente firma el mensaje.
¿Y qué ocurre cuando “se portan mal” esos asistentes de IA que se comunican de forma autónoma en nombre de sus usuarios? Un equipo de la Universidad de Carolina del Norte comprobó que, en ocasiones, estos sistemas enviaban demasiados correos, no conseguían cerrar una cita o generaban situaciones incómodas. En tales casos, los interlocutores podían atribuir al propio usuario rasgos como falta de competencia o de cortesía, hasta el punto de que este tenía que intervenir y disculparse por lo ocurrido.
Los investigadores encontraron además algo especialmente llamativo: cuando otras personas podían leer también las instrucciones dirigidas al asistente, algunos usuarios cuidaban deliberadamente el modo de hablarle; incluso añadían expresiones como “por favor” para no parecer bruscos ante quien observaba la conversación. Así, la IA no solo interviene en la imagen que proyectamos cuando habla por nosotros: también puede modificar cómo nos comportamos con ella cuando sabemos que otros están mirando.
Si el sentimiento está expresado con IA, ¿no es auténtico?
En este escenario, la calidad de un mensaje, la participación real del emisor en su producción y las cualidades que le atribuimos ya no tienen por qué coincidir, con lo cual cambian las reglas para valorar los sentimientos que expresa un texto.
Eso sí, no es lo mismo pedir a un sistema automatizado que corrija una frase que delegarle una disculpa íntima, un mensaje de condolencias o una respuesta de apoyo emocional. Tampoco significa que utilizar IA vuelva falsa una interacción: una persona puede sentir auténtica preocupación y necesitar ayuda para expresarla, o comunicarse en una lengua que no domina.
La clave está en otra parte: ciertas señales sociales –empatía, cortesía, tacto, consideración– pueden ser ahora producidas o mejoradas algorítmicamente. Por ello, quizá la alfabetización en inteligencia artificial deba incluir también una alfabetización de la atribución. Es decir, aprender a distinguir entre lo que un mensaje comunica, cómo fue producido y qué podemos inferir razonablemente sobre quien lo envía.
El reto ya no será solo preguntar “¿esto lo escribió una IA?”. Será preguntarnos: “¿qué parte de estas palabras puedo seguir utilizando para juzgar a la persona que decidió enviarlas?”.
Bárbara Castillo Abdul no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.
– ref. Un mensaje cálido y cercano escrito por IA, ¿demuestra la empatía del humano que lo firma? – https://theconversation.com/un-mensaje-calido-y-cercano-escrito-por-ia-demuestra-la-empatia-del-humano-que-lo-firma-292007