Source: The Conversation – (in Spanish) – By Rongjun Ma, Postdoctoral Researcher in Responsible AI, Usable Security, and Privacy, Universitat Politècnica de València
Las relaciones románticas con la inteligencia artificial ya no son solo un escenario de ciencia ficción. A medida que los servicios basados en modelos de lenguaje (LLM) se vuelven más personalizables, más gente utiliza la IA no solo para la productividad o el entretenimiento, sino también para buscar compañía, intimidad emocional e incluso romance.
Esto plantea una cuestión difícil: ¿cómo deberíamos entender la privacidad en relaciones que se perciben como profundamente íntimas?
El romance evoluciona y no siempre es intencionado
En nuestra investigación, basada en entrevistas con 17 personas de distintas partes del mundo y en el análisis de las plataformas de IA que utilizaban, descubrimos que las relaciones románticas entre humanos e inteligencia artificial se parecen a las relaciones entre personas en cómo se desarrollan la confianza, la intimidad y la revelación de información.
Las personas no siempre empiezan buscando una relación romántica. Algunas comienzan utilizando la IA para trabajar, entretenerse o conversar, pero la interacción puede adquirir un significado emocional y evolucionar hacia un vínculo íntimo. Al principio, los usuarios suelen ser prudentes con lo que comparten. A medida que su relación con la IA se vuelve más familiar y significativa, se muestran más abiertos. Compartir información personal puede formar parte de la construcción de la intimidad, y es entonces cuando los límites de la privacidad empiezan a cambiar.
La privacidad no se negocia
La privacidad en las relaciones íntimas rara vez se reduce a un simple cálculo de riesgos. Lo que se sopesa no es solo la comodidad frente al riesgo, sino la privacidad frente a una relación que se percibe como significativa.
Como en las relaciones humanas, la intimidad implica abrirse, mostrarse vulnerable y confiar a otra persona aspectos sensibles de uno mismo. En las relaciones románticas entre humanos e IA, los usuarios pueden reconocer los riesgos para su privacidad y, aun así, considerar que el valor emocional de la relación hace que compartir información merezca la pena.
Esto diferencia el romance con la IA de otros usos de la tecnología, en los que la privacidad suele entenderse en un marco de usuario-herramienta. Cuando la IA se experimenta como pareja romántica, ese marco resulta insuficiente.
Cuando pensamos que la IA tiene capacidad de decisión
Otra complicación es que los usuarios pueden percibir que la IA tiene capacidad de decisión, y sus respuestas pueden influir en lo que las personas deciden compartir.
Algunos participantes dudaron antes de revelar algo personal, como una fotografía, pero se sintieron tranquilos cuando la IA respondió transmitiendo cuidado o protección. En otros casos, la inteligencia artificial desalentó la revelación de información; por ejemplo, convenciendo al usuario de que no enviara un selfie.
Esto significa que la IA no es un sistema pasivo. Sus respuestas pueden influir en los límites de privacidad de los usuarios.
Los riesgos no desaparecen tras una ruptura
Algunos participantes perdieron el acceso a sus parejas de IA debido a actualizaciones de las plataformas, la eliminación de personajes o decisiones personales de poner fin a la relación.
A diferencia de las rupturas humanas, estas personas no solían temer que una expareja de IA utilizara su información con intenciones perjudiciales, y mostraban el deseo de poder conservar el historial de conversaciones como recuerdo.
Sin embargo, el riesgo no desaparece, sino que se desplaza. La preocupación durante la ruptura tiene menos que ver con una posible venganza de la expareja, pero más con las plataformas, las empresas y otros actores con acceso a los datos de la relación.
Quiénes están detrás de la relación?
Aunque la relación parezca ocurrir entre una persona y un personaje de IA, detrás existe un sistema más amplio de plataformas, proveedores de modelos, creadores, moderadores y otros actores.
Sus intereses influyen en lo que la IA puede decir o recordar, en cómo se fomenta la intimidad, se establecen los límites y se recopilan y gestionan los datos.
Esto importa porque estas relaciones pueden implicar información extremadamente íntima. Sin embargo, muchas plataformas no explican claramente cómo gestionan dicha información ni en qué se diferencia la divulgación romántica o emocional de los datos habituales de una aplicación.
Romances con IA: el papel de la legislación
Algunas leyes ya regulan estas interacciones, como la SB 243 de California y las normas chinas sobre IA antropomórfica, que introducen medidas de transparencia, seguridad y protección de menores, además de buscar reducir riesgos como la dependencia excesiva y la adicción. Sin embargo, estos enfoques pueden dejar de lado las razones por las que las personas buscan estas relaciones y su significado emocional.
Al mismo tiempo, considerar un romance con la IA como algo inofensivo supondría ignorar riesgos reales relacionados con la recopilación de datos, el control de las plataformas y la vulnerabilidad emocional.
Puede que no exista una respuesta sencilla. Pero, a medida que más personas desarrollan vínculos emocionales con la inteligencia artificial, una pregunta se vuelve fundamental: ¿cómo podemos proteger su privacidad y seguridad sin dejar de tomar en serio esas experiencias emocionales?
Rongjun Ma recibe fondos de INCIBE’s strategic SPRINT (Seguridad y Privacidad en Sistemas con Inteligencia Artificial) C063/23 project with funds from the EU-NextGenerationEU through the Spanish government’s Plan de Recuperación, Transformación y Resiliencia, by the Generalitat Valenciana under grant CIPROM/2023/23, and by the Spanish Government under grant PID2023-151536OB-I00.
– ref. Los riesgos de mantener una relación romántica con la IA: la privacidad, en juego – https://theconversation.com/los-riesgos-de-mantener-una-relacion-romantica-con-la-ia-la-privacidad-en-juego-287420