Source: The Conversation – (in Spanish) – By Timothé Albouy, Investigador posdoctoral en Ciencias de la Computación, IMDEA SOFTWARE
Un terremoto está sacudiendo el mundo de las matemáticas. La irrupción de la inteligencia artificial ha provocado una crisis sin precedentes en la disciplina, hasta tal punto que los matemáticos debaten si tienen o no futuro y cómo será. Pero el seísmo afecta a las sociedades por completo.
En poco más de una década, la inversión empresarial mundial en IA ha alcanzado los 1,6 billones de dólares, una cifra que multiplica por más de cuarenta el coste, actualizado a dólares de 2024, del Proyecto Manhattan que desarrolló la bomba atómica, estimado en 36 000 millones de dólares. Y se prevé que el gasto mundial en IA llegue a 2,5 billones de dólares en 2026. Estas cifras muestran que no estamos ante una innovación tecnológica más, sino ante una transformación que está movilizando recursos a una escala extraordinaria.
Una tradición humana de 3 000 años
A lo largo del año, las capacidades matemáticas de la IA han avanzado de forma espectacular: de poder solucionar unos cuantos puzles matemáticos hace solo seis meses a resolver conjeturas fundamentales como la regularidad de Navier-Stokes, uno de los siete problemas del Premio del Milenio. Esta trayectoria exponencial plantea una pregunta inquietante: ¿llegará pronto a su fin las matemáticas como tradición humana de más de 3 000 años?
Estos acontecimientos han desencadenado un aluvión de debates: sitios web como Proofs and Prompts o el blog de Terrence Tao (una de las figuras más destacadas de las matemáticas) llevan semanas publicando entradas invitadas en las que los matemáticos debaten, con distintos grados de optimismo, el futuro de su disciplina en la era de la IA.
El debate sobre el futuro de las matemáticas
Algunos creen que, de cara al futuro, la profesión debería dar menos importancia a la demostración de teoremas y orientarse hacia la asimilación, comunicación y comprensión de esas nuevas matemáticas. Sin embargo, otros sugieren que las IA podrían convertirse pronto en mejores explicadores que los humanos; y si son capaces de aplicar de forma autónoma las matemáticas que desarrollan para hacer avanzar la ciencia y la ingeniería, entonces la comprensión humana ya no será necesaria.
A pesar de la diversidad de opiniones, la mayoría de los matemáticos coinciden en una cosa: sus intereses y los de las empresas de IA están profundamente desalineados. Así pues, la comunidad ha publicado varias respuestas, como la Declaración de Leiden o la Carta Math and AI, firmada por 25 medallistas Fields y respaldada por miles de matemáticos.
Pero se está gestando una preocupación aún más profunda: si las IA llegan a ser más capaces que los humanos en el trabajo cognitivo, ¿lo que está ocurriendo con las matemáticas no revestiría una importancia insignificante en comparación con lo que esto supone para la sociedad?
En qué tareas tendremos una ventaja frente a la IA
Antes que los matemáticos, muchas otras profesiones se vieron profundamente transformadas por la IA: traductores, programadores, ilustradores, músicos, escritores… El paralelismo con la Revolución Industrial suele servir como argumento para afirmar que, a pesar de las fricciones transitorias, a largo plazo surgirán nuevos puestos de trabajo a medida que los trabajadores asciendan en la pirámide corporativa.
Pero la IA parece diferente, ya que se trata de una tecnología de uso general, y las tareas en las que los seres humanos conservan una ventaja comparativa parecen ser cada vez más escasas.
Bajo presiones competitivas, es posible que las instituciones y empresas que automaticen la mayor parte de sus cargas de trabajo (incluidos los puestos de mayor nivel) superen y sustituyan a aquellas que no lo hagan, lo que provocará no solo altas tasas de desempleo, sino también un progresivo desempoderamiento humano. Al mismo tiempo, los avances en robótica sugieren que, a largo plazo, podrían producirse disrupciones similares en el trabajo físico.
En un futuro así, los seres humanos aún podrían conservar algunos nichos de la economía, como en el sector relacional (artes, terapia, asistencia…), donde el aspecto humano es el valor. Pero en comparación con la manufactura, la defensa o la energía, esas profesiones probablemente tendrán poca influencia material sobre el orden político, ya que no podrán paralizar la economía ni vetar las decisiones de los poderosos. Por lo tanto, en un mundo en el que la IA pueda gestionar fábricas y librar guerras, propuestas como la renta básica universal pueden parecer un acuerdo frágil, dado que los seres humanos ya no serían actores económicos necesarios.
De lo que es capaz una superinteligencia
En una reciente carta abierta a la Royal Society, numerosos matemáticos expresaron su preocupación por las implicaciones más amplias de los eventos actuales en su campo: si las IA llegaran a ser superhumanas en matemáticas, ¿qué capacidad tendrían para realizar ciberataques autónomos, desarrollar agentes químicos o biológicos, manipular psicológicamente, controlar drones y armas automatizadas, hacer desinformación selectiva y llevar a cabo vigilancia masiva?
Al mismo tiempo, hemos visto antiguos empleados de grandes empresas de inteligencia artificial expresar su preocupación por el riesgo de extinción que plantea esa tecnología, así como líderes de la IA que piden una desaceleración y solicitan una exención de las leyes antimonopolio para permitir la coordinación entre los laboratorios de vanguardia.
El dilema del prisionero
A pesar de estos anuncios, las compañías de IA siguieron lanzando modelos cada vez más potentes. Esta aparente contradicción se suele presentar como un dilema del prisionero: una situación en la que la opción individual más racional para cada actor es traicionar a los demás, aunque la cooperación conduciría a un resultado globalmente mejor. El argumento establece una analogía con la carrera por la bomba atómica: si nosotros (Occidente) no la desarrollamos primero, lo harán nuestros rivales (China).
La comparación no se sostiene mucho más allá. El boom de la IA ya eclipsa al Proyecto Manhattan en cuanto a inversión en un factor de cientos. Además, al contrario del arma nuclear, la superinteligencia artificial es una tecnología que tiene gran probabilidad de volverse directamente contra sus propios creadores o gobiernos. Entonces, desde un enfoque racional, redundaría en el interés propio tanto de Occidente como de China en cooperar, o incluso frenar unilateralmente el desarrollo de la IA.
La perspectiva política
Resulta fácil sentir impotencia y concluir que nuestras acciones no influyen en el desarrollo de la IA, y que solo un puñado de personas repartidas entre Silicon Valley, Washington y Pekín pueden tomar decisiones que afectan a 8 000 millones de personas. Además, resulta difícil abordar las repercusiones sociales de la IA sin parecer demasiado pesimista, pero para mantener un debate democrático informado, es necesario que asimilemos las implicaciones de esta tecnología.
Muchos ciudadanos están a favor de la regulación de la IA, pero está tardando en traducirse en medidas concretas. El senador estadounidense Bernie Sanders propuso recientemente un proyecto de ley para prohibir la superinteligencia a nivel nacional y mundial mediante acuerdos entre las grandes potencias. A menor escala, comunidades como la Asociación para las Matemáticas Humanas han decidido unirse para hacer oír su voz, lo que apunta a una mayor coalición de voluntarios.
Es importante que no cedamos ante una sensación de inevitabilidad y renunciemos a nuestra capacidad de acción política. La salida y la puesta del sol son inevitables, pero la acción humana no lo es.
Timothé Albouy ha recibido financiación de la Agencia Estatal de Investigación (a través de Excelencia María de Maeztu), del Gobierno de la Comunidad de Madrid, y del Ministerio de Ciencia, Innovación y Universidades.
– ref. El terremoto de la IA, explicado para entenderlo – https://theconversation.com/el-terremoto-de-la-ia-explicado-para-entenderlo-293590