Source: The Conversation – (in Spanish) – By Laura G. de Rivera, Ciencia + Tecnología, The Conversation
“Mi trabajo como profesor es enseñar a los jóvenes a pensar por sí mismos”, nos dice Michael Ignatieff (Toronto, 1947). Con una trayectoria que abarca la academia, el ensayo y la política –fue líder del Partido Liberal de Canadá entre 2008 y 2011–, ha dedicado buena parte de su obra a reflexionar sobre la democracia, las libertades civiles, el nacionalismo y las tensiones que atraviesan nuestras sociedades. Conoce desde dentro la dureza de la política, pero también la calma de la reflexión intelectual. Esa doble mirada le permite hablar con rigor y franqueza sobre los dilemas de nuestro tiempo desde un punto de vista crítico, aunque siempre ofrece una luz al final del túnel.
En su ensayo Fuego y cenizas. Éxito y fracaso en política (Taurus, 2014), dice que “nada te puede causar más problemas en política que decir la verdad”. ¿Cuál es su definición de “verdad” en un mundo donde la tecnología ha amplificado las posibilidades de crear realidades artificiales?
No sé si puedo definir la verdad, pero creo que existe. Estoy en una habitación contigo, tiene suelo de mármol. Madrid está fuera. Tú eres mujer, yo soy hombre, tú llevas un vestido negro. Son ciertos hechos indiscutibles sobre nuestra situación con los que podemos estar de acuerdo. No creo que estemos en un mundo relativista donde lo que yo veo no es lo que tú ves; ahí residiría la locura. Pero es cierto que vivimos una especie de crisis epistemológica. Con la explosión de los medios de comunicación, tenemos un inmenso suministro de información a coste cero, que tampoco cuesta nada difundir. Nuestra respuesta frente a la proliferación de información ha sido encerrarnos en burbujas de filtrado, en las que cada uno obtiene distintas construcciones de la realidad. Pero no son los hechos ni lo que es verdad lo que está en duda. No creo que estemos perdidos en una especie de salón de los espejos, aunque es cierto que nuestra política está dividida por fuentes de información que compiten entre sí. Esto implica que, como ciudadanos, nosotros tenemos el deber de averiguar qué es verdad.
¿Cuál es el estado actual de la libertad de expresión en países democráticos como los europeos, Estados Unidos o Canadá?
Lo que yo suelo preguntarme es ¿pienso por mí mismo? Tengo libertad para decir lo que quiero, nadie intenta limitar mi derecho a la libertad de expresión. Pero cuando me pregunto si realmente pienso por mí mismo o si estoy reciclando lo que he leído de otra persona más inteligente que yo… no lo tengo tan claro. Ese es el desafío de la libertad en una sociedad libre: pensar por uno mismo.
Es cierto que hay presiones sustanciales en la libertad de expresión, pero la amenaza más acuciante es el poder de la opinión mayoritaria. En el siglo XIX, John Stuart Mill dijo que es nuestro instinto de conformarnos lo que pone en peligro la libertad de pensamiento y la libertad de opinión. No es tanto la tiranía de los poderosos como nuestro deseo de ser queridos, de recibir aprobación, de decir cosas socialmente aceptadas. Muy pocos tenemos el coraje de decir algo con lo que los otros no van a estar de acuerdo. Siento que me he pasado toda la vida tratando de pensar por mí mismo, pero honestamente me pregunto con qué frecuencia he tenido un pensamiento personal original y me he mantenido firme frente a la oposición. No a menudo.
Hay quien dice que los nuevos chatbots son casi humanos y que la inteligencia artificial es tan buena como una persona para crear arte o responder e-mails. ¿Cómo define esa humanidad que es exclusivamente nuestra y nos distingue de la máquina?
Uno de nuestros problemas es el uso mismo de la palabra “inteligencia” cuando hablamos de IA. Hemos confundido inteligencia y computación. Estas máquinas realizan operaciones extremadamente sofisticadas de computación mecánica, que no tienen nada que ver con la inteligencia humana. En este momento, mientras tú y yo hablamos, recibo un flujo de datos tuyos como persona, que algunos son verbales y otros no. Como cualquier ser humano, estamos continuamente evaluando la situación, y eso es una muestra de inteligencia humana. Es algo que las personas hacemos sin esfuerzo. Ninguna máquina puede hacerlo. Me preocupa que, al reducir la inteligencia a computación y al decir que las máquinas ya tienen inteligencia humana, hayamos perdido el norte. Ello implicaría una amenaza para nuestra propia definición de lo que es ser humano.
¿Parte de lo que nos hace humanos es, entonces, nuestra interacción con el contexto?
Nuestra impresión del otro está moldeada por los hechos; no solo por lo que decimos, sino también por cómo nos presentamos en el mundo. Nos han entrenado durante milenios para ensamblar toda esa imagen del otro sin esfuerzo, sin siquiera pensarlo. Sin embargo, las máquinas no están encarnadas en un organismo vivo. Además, las máquinas no tienen una personalidad singular: son como cualquier otra máquina construida de la misma manera. Al contrario, una persona es una representación irrepetible de un ser humano.
Parecemos todos muy ocupados en alabar los logros de los sistemas de IA. De alguna manera, ¿estamos olvidando las fascinantes capacidades del cerebro humano? Usted es un gran amante del Museo del Prado; se me ocurre, por ejemplo, pensar en artistas que hicieron historia, pero también científicos, inventores…
Hay algo singular en Cervantes, igual que hay algo en Velázquez que es irrepetible… Cuando me acerco a Las Meninas y observo el trabajo del pincel en la ropa de los personajes, me parece increíble. Sí, estamos perdiendo el respeto por lo que es singular en nuestra humanidad. Por otra parte, recordemos que los seres humanos no pueden secuenciar 400 000 tipos de proteínas e indicar cuál podría ser útil para un tratamiento. Usada adecuadamente, la inteligencia artificial puede hacer cosas que nosotros no podemos. Pero no es posible replicar la inteligencia humana, en mi opinión; no creo que se pueda nunca. No es solo una cuestión de que aún no tengamos suficiente poder computacional: creo que hay un límite lógico, porque no se va a materializar en un cuerpo físico como lo hacemos nosotros. Lo deseable es usar la inteligencia artificial, pero manteniéndola bajo control y conservando nuestro respeto por lo que es propiamente humano.
Nosotros, la gente normal, en nuestra relación con la tecnología, ¿somos usuarios o usados?
En la medida en que capturan datos sobre nosotros, estamos siendo utilizados. Recuerdo que tuve una joven estudiante en Harvard que consiguió un trabajo en Facebook y, cuando la felicité por ello, tomó mi smartphone y apagó la ubicación, el permiso del micrófono y todas esas cosas que le dan a Meta datos sobre mí. El mensaje es que es bueno tener estudiantes bien situados profesionalmente. (Ríe).
En Fuego y cenizas dice que una de las claves del buen político es lograr que la gente lo escuche y, para conseguir eso, hace falta entender a la gente, sus necesidades, sus deseos. Esto es lo que hacen los algoritmos de segmentación de audiencias y perfilado de la población: analizar los rincones más íntimos de nuestra intimidad a través de nuestro comportamiento online, ¿verdad? Parece que pueden ser buenos aliados de la política y temibles enemigos de la libertad de pensamiento…
Sí, eso creo. No son una herramienta neutral. Están siendo utilizados por todos los partidos políticos del mundo para averiguar las preferencias públicas. Se están volviendo cada vez más intrusivos, pero creo que llegará un momento en el que la gente se harte. No nos gusta que nos empujen, que nos manipulen. Así que tengo la esperanza de que la gente se resista y tome medidas para proteger más su privacidad. Anoche estuve hablando con una española que no permite a su hija adolescente tener un smartphone. Todos le deseamos buena suerte. Pero esa madre está defendiendo el derecho de su hija a tener interioridad y una vida emocional y psicológica libre de estas máquinas. Creo que no debemos subestimar nuestra capacidad de contraatacar.
Y, mientras los ciudadanos se defienden (o no), ¿qué opina sobre regular esta especie de salvaje Oeste digital? Además del Acta europea de IA, el Reglamento de Servicios Digitales y el Reglamento General de Protección de Datos, en España tenemos la Carta de Derechos Digitales y estamos esperando que se apruebe la Ley Orgánica de Protección de Menores en Entornos Digitales.
Proteger a los niños de los aspectos aterradores de internet es una necesidad urgente. Soy padre y no quiero que mis hijos accedan a ciertos contenidos. Creo que hay cosas que pueden dañar a un niño de por vida. También es importante proteger nuestros derechos de privacidad. Lo que pasa con la tecnología es que, en realidad, no sabemos qué son estas cosas que llevamos en el bolsillo (se toca el móvil). Son dispositivos enormemente poderosos. Quizá yo solo use el 5 % de sus capacidades. No tengo idea de lo que mi smartphone sabe sobre mí. Creo que es apropiado tener una legislación para proteger a los adultos mayores como yo, y también a los niños.
En alguna ocasión, ha dicho que hay una brecha enorme entre las expectativas sociales y la capacidad recaudatoria de los estados liberales. Quizá, una posible solución a este dilema sea adormecer a la gente con tecnología para disminuir sus expectativas sociales…
Sí, de vez en cuando veo a veinteañeros que caminan por la calle mirando solo a sus teléfonos y pienso que van a chocarse contra una farola o que les va a atropellar un coche. Esta no es forma de vivir la vida. Sin embargo, las expectativas sociales son bastante obstinadas. El pasado 18 de septiembre, en París, había 800 000 personas manifestándose en la calle, diciendo “no aplasten mis esperanzas, quiero jubilarme a los 64 y quiero dos vacaciones pagadas adicionales”. Es una lucha enorme, precisamente porque reducir las expectativas sociales es casi imposible. Como expolítico, no me gusta reconocerlo; como ser humano, me gusta mucho.
Entonces, ¿quién se beneficia de que haya tantos jóvenes pegados a sus smartphones, con la disminución de la motivación, la fuerza de voluntad y las ganas de cambiar el mundo que esto implica? ¿Es intencional o es solo un efecto secundario de la tecnología?
No creo que sea intencional, principalmente porque creo que Elon Musk es inteligente, pero no tanto, ya sabes. (Sonríe). Pero tomemos un ejemplo dramático: el joven de 22 años acusado de disparar a Charlie Kirk aparentemente se pasaba la vida en chats y grupos privados donde utilizan una jerga extraña que grabó en los casquillos de las balas que usó. Esa es una vida miserable. Sin embargo, creo que el problema va más allá de la tecnología. Hay muchos hombres jóvenes, especialmente varones, pero también mujeres, que crecen sin esperanza, sin propósito, sin una dirección en la vida. La tecnología les ayuda a pasar el día, a entretenerse… pero el verdadero problema es que es muy difícil comenzar una vida familiar, es muy difícil pagar un piso, es muy difícil conseguir un buen trabajo.
Siempre ha sido difícil pasar de la adolescencia a la adultez joven, en todas las culturas y en todas las épocas. Hoy lo estamos haciendo aún más difícil y los jóvenes padecen una especie de epidemia de soledad. Por ejemplo, en los años 60, cuando yo tenía 21 años, lo único que queríamos era tener sexo. Hoy, las estadísticas muestran que los jóvenes tienen cada vez menos sexo. Bueno, eso es una muy mala señal. Necesitamos conexión humana, conexión entre los cuerpos. Desconozco los motivos, pero creo que van más allá de la tecnología.
¿Qué sucede con esas minorías que no interesan al poder? Usted conoce bien este problema: en Canadá, nativos como los innu se quejan de que su historia ha sido borrada de los libros de texto escolares y de los museos. La tecnología magnifica esos prejuicios e invisibiliza a esas minorías. ¿Es la inteligencia artificial la última colonización?
Hay investigaciones que demuestran que las lenguas de minorías no están representadas en las bases de datos de los motores de búsqueda, con un sesgo muy grande hacia el inglés. Sé que las comunidades aborígenes de Canadá no tienen buen acceso a internet, la incorporación de su idioma y su experiencia en nuestros buscadores no es buena… No hay duda de que existe el riesgo de que estemos creando nuevas formas de servidumbre, de discriminación y de injusticia, a medida que estas tecnologías se desarrollan. ¿Cuál es la solución? No se puede tener una democracia si un grupo entero de personas está en desventaja digital; es un problema que tenemos que solucionar. Las minorías deben hacer ruido, conseguir el apoyo de las personas que están de acuerdo en que necesitan estar representadas.
Entonces, ¿la pelota está en su tejado?
¡Sí! Pero siempre ha sido así. No debemos nunca subestimar la capacidad de las personas para responder a la injusticia que afecta sus intereses vitales. Cuando estos se ven afectados, la gente lucha. Eso es democracia y así es como se produce el progreso. Por eso, no soy pesimista sobre estas cosas: la gente luchará. ¡Bien por ellos!
¿Quién gobierna el mundo, los líderes elegidos democráticamente o los dueños de las cinco grandes tecnológicas cuyos productos usamos todos cada día?
Bueno, hay una batalla feroz sobre esa cuestión. Yo deseo fervientemente que ganen las democracias liberales porque solo así las personas podremos tener un poco de control sobre nuestras vidas. Ahora mismo, las grandes empresas tecnológicas van a Europa y dicen que no les gusta su impuesto a los servicios digitales. Van a Canadá, mi país, y dicen lo mismo. Están buscando intervenir un país tras otro para derribar decisiones tomadas democráticamente en un país tras otro. Son empresas que tienen un enorme poder sobre estas tecnologías y pueden infligir mucho daño a las democracias que les ponen límites. Pero, si queremos democracia, vamos a tener que defendernos y poner límites, no hay duda al respecto. Y el resultado de esta batalla es, en cierto sentido, tan importante para el futuro de la democracia como cualquier otra batalla que se esté librando actualmente.
Ha dicho alguna vez que los países deben prepararse por si hay una guerra. ¿Cuál es el riesgo de la tecnología dual, un teléfono móvil, por ejemplo, que sirve para chatear, pero también para dirigir un ciberataque contra una infraestructura crítica o drones que matan a gente real? Debemos recordar que la Ley de IA europea no se aplica a los fines militares.
Estas tecnologías son muy dinámicas, muy explosivas en sus posibilidades creativas. Jóvenes de 19 años están usando sus teléfonos de formas que ni siquiera puedo imaginar. Creo que es una fantasía pensar que podemos tenerlo todo controlado. Lidiaremos con los daños de ayer y no estaremos preparados para los de mañana. El uso dual es un gran problema. Por ejemplo, tenemos preocupaciones legítimas sobre la tecnología china: puede haber smartphones de fabricantes de ese país que transmiten señales a las autoridades de vigilancia del Estado chino. Los gobiernos, ejércitos y universidades del resto del mundo deberían tener mucho cuidado. Sería bueno que pudiéramos establecer acuerdos internacionales sobre el uso dual, sobre la vigilancia, sobre el desarrollo de la IA. China y Estados Unidos, superpotencias en IA, deberían tener interés en regularla, igual que regulamos las armas nucleares en la Guerra Fría. Pero, en este momento, no estamos teniendo ese diálogo.
¿Qué papel ha jugado la Declaración Universal de los Derechos Humanos en nuestra historia reciente? ¿Para qué sirve si no se respeta, como está ocurriendo en Gaza?
La Declaración Universal de los Derechos Humanos (1948) es la expresión de la universalidad humana más influyente que existe. Pero la universalidad humana es un experimento mental, siempre es un deseo. Es una idea que choca con las diferencias que nos definen como individuos: blancos, negros, jóvenes, ancianos, mujeres, hombres, judíos, cristianos, musulmanes… Estas diferencias son enormemente importantes en la creación de nuestras identidades, nuestros apegos y nuestras lealtades. Creo que, en la práctica, los humanos no somos conscientes de lo que compartimos como especie, sino de las diferencias. Esa es la fuente del conflicto, es la fuente de la guerra, del odio, de lo que está pasando en Gaza.
Los derechos humanos siempre están luchando contra las fuerzas de la diferencia humana y las ventajas y el poder que genera. Estamos luchando por crear un mundo donde el hecho de que tú seas mujer y yo hombre, o que él sea negro y yo blanco, sea irrelevante. Donde no usemos esas diferencias en aras de la opresión, la crueldad y la violencia. La Declaración Universal de los Derechos Humanos expresa nuestro deseo de vivir en un mundo así. Pero no vivimos en un mundo así.
No me sorprende que los derechos humanos estén en crisis. El problema de Gaza se remonta a 1947: cometimos errores porque no dividimos la tierra entonces y aquí estamos en 2025 con brutalidad, violencia y horror. Ha habido momentos en la historia en que ambos lados se reconocieron como iguales y aceptaron el reclamo mutuo sobre la tierra. Eso ahora está roto. Estamos en una guerra salvaje e incesante, sin piedad ni misericordia. Es una catástrofe moral y un desastre para el derecho internacional.
Para mí, lo más horrible es que ha habido momentos en los que estuvieron a punto de alcanzar la reconciliación y la paz, pero fueron destruidos por fanáticos de ambos lados. Cuando los fanáticos matan a los pacificadores, entran en juego los hacedores de guerra, dispuestos a luchar a muerte. Es una catástrofe no solo para los palestinos, sino también para Israel, porque cada niño que pierde a su familia, cada joven que pierde a su madre, se convierte en un enemigo ferozmente hostil.
La masacre de inocentes ¿no es una tragedia para todos nosotros como seres humanos? Lo que está pasando en Gaza podría suceder en España o en cualquier otro sitio…
Así es. Tenemos que entender que, si las personas creen que están luchando por su supervivencia, harán casi cualquier cosa. Es un error pensar que los israelíes o los palestinos son otra raza de seres humanos. Nosotros, en situaciones similares de desesperación, bien podríamos hacer lo mismo. Cuando estuve en los Balcanes en los años 90, vi a europeos muy cultos y bien educados masacrándose; cuando estuve en Ruanda, vi a africanos que hablaban un francés perfecto matándose entre sí. He estado en Gaza, y he visto a estas personas luchando por sus vidas. No hay límite a la brutalidad humana. Es un pensamiento muy desagradable que tenemos que aplicarnos a nosotros mismos. Cuando pensamos “son ellos”, tenemos que darnos cuenta de que “podríamos ser nosotros”.
Esta entrevista se publicó originalmente en la Revista Telos de la Fundación Telefónica, y forma parte de un número monográfico dedicado a los derechos digitales.
– ref. Michael Ignatieff: “El desafío de la libertad en una sociedad libre es pensar por uno mismo” – https://theconversation.com/michael-ignatieff-el-desafio-de-la-libertad-en-una-sociedad-libre-es-pensar-por-uno-mismo-272910
