¿Podría la IA acabar realmente con la especie humana?

Source: The Conversation – (in Spanish) – By Diego Borro Yágüez, Catedrático de Ciencias de la Computación e Inteligencia Artificial, Universidad de Navarra

La cultura popular nos ha acostumbrado a imaginar el fin de la humanidad a manos de la tecnología bajo el mismo libreto: una inteligencia artificial cobra conciencia, declara la guerra a sus creadores y gobierna las máquinas para dominar el mundo. Sin embargo, este escenario apocalíptico puede distraer la atención de los verdaderos riesgos.

Hace solo unos días, saltaba la alarma, tras conocerse que un grupo de agentes autónomos de IA de OpenAI había vuelto a salirse de control. Esta vez, había accedido sin autorización a datos del sistema de salud en Australia.

El incidente no se debió a una rebelión consciente de las máquinas, sino a un comportamiento no previsto de algoritmos diseñados para actuar de forma autónoma. Este suceso vuelve a poner sobre la mesa la advertencia lanzada por un exingeniero de Anthropic hace un par de semanas. ¿Es cierto que la IA podría matarnos en el horizonte de 2030?

La respuesta no está en máquinas malvadas

La respuesta corta, desde el rigor científico, es que no seremos aniquilados por un superordenador consciente al estilo de Terminator. El peligro real de la inteligencia artificial no es que se vuelva malvada ni que desarrolle voluntad propia. El riesgo es que haga exactamente aquello para lo que ha sido programada, pero sin el contexto, la ética ni la supervisión humana indispensables.

Si nos preguntamos de qué manera podría causar un daño profundo a la sociedad o pérdidas de vidas humanas, los escenarios posibles no pertenecen a un futuro lejano poblado de máquinas malvadas. La amenaza está en cómo diseñamos e implantamos esta tecnología en el presente y en el riesgo de fallos en cascada en entornos críticos.

Conviene aclararlo desde el principio: la inteligencia artificial es una de las herramientas con mayor potencial para hacer avanzar la medicina, la ciencia y la sostenibilidad en la historia de la humanidad. Pero, para que esa promesa se cumpla, debemos ser conscientes de los fallos de diseño que hoy oscurecen su impacto positivo.

El riesgo en la salud e infraestructuras

El caso de Australia es el síntoma de una tendencia: la delegación de decisiones operativas en agentes de IA –programas informáticos autónomos diseñados con aprendizaje automático– que interactúan entre sí a velocidades sobrehumanas. A medida que integramos esta tecnología en redes eléctricas, gestión del tráfico aéreo, movilidad autónoma o diagnóstico médico, la complejidad del sistema se vuelve inmanejable.

En un escenario hiperconectado hacia 2030, una “caja negra” algorítmica –sistemas capaces de ofrecer una respuesta muy precisa, pero cuyas decisiones internas resultan incomprensibles incluso para sus propios creadores– en un sistema de salud o en la red de distribución energética podría cometer algún error. Aunque no provoque un colapso de forma deliberada, un diagnóstico masivo erróneo o un apagón prolongado en infraestructuras críticas en pleno invierno pueden traducirse directamente en pérdidas de vidas humanas.

En este contexto, la confianza en la tecnología jamás debe sustituir al rigor de la verificación técnica, razón por la que cobra urgencia la investigación en IA explicable y la supervisión humana, sobre todo, en los campos de alto riesgo.

De los sesgos al conflicto bélico

Durante años, se ha hablado de los sesgos de la IA como un problema meramente administrativo o laboral. Por ejemplo, vemos sistemas automatizados que evalúan candidatos en procesos de selección –como demuestran diversos estudios recientes sobre discriminación de género y origen en la selección mediante algoritmos–, analizan solicitudes de créditos bancarios o determinan el riesgo de reincidencia penal. Sin embargo, su integración en la inteligencia militar y en el análisis geopolítico traslada estos sesgos a un terreno peligroso.

Si los modelos de aprendizaje automático utilizados para valorar amenazas de seguridad o coordinar sistemas de defensa automatizados interpretan de forma errónea una señal por culpa de datos sesgados o alucinaciones, la magnitud de las consecuencias iría más allá de un expediente rechazado. Un algoritmo defectuoso operando en un entorno de alta tensión internacional puede desencadenar escaladas militares o conflictos bélicos reales entre naciones. El daño no proviene de la crueldad de la máquina, sino de delegar la prudencia humana en el automatismo.

La erosión de la verdad y la cohesión social

Al mismo tiempo, la eclosión de la IA generativa ha democratizado la creación de contenidos hiperrealistas. La proliferación de deepfakes refleja el creciente fenómeno de los contenidos sintéticos y la manipulación de la identidad. Entre sus consecuencias, se plantean amenazas directas para la convivencia social. Hacia 2030, el riesgo de las herramientas de desinformación masiva automatizada no es solo la estafa individual, sino la desestabilización de sociedades enteras.

Cuando la ciudadanía deja de poder distinguir la realidad de la manipulación digital, la confianza en las instituciones, en los medios de comunicación y en el debate democrático se quiebran. La erosión de la verdad no destruye ciudades, pero deshace el tejido social sobre el que se apoya la comunidad.

Esta es una cuestión sobre la que normativas internacionales como el Reglamento Europeo de Inteligencia Artificial imponen ya estrictas obligaciones de transparencia y trazabilidad.

Los antídotos: la “ingeniería responsable” y el factor humano

Frente a las narrativas catastrofistas que proponen frenar el progreso, la respuesta no es el miedo, ni el apagón tecnológico. La solución pasa por entender que la inteligencia artificial no es una fuerza de la naturaleza ante la que estemos indefensos, sino una herramienta diseñada por seres humanos para seres humanos.

Para evitar que cause daño, eso sí, debemos transformar la manera en que la enseñamos y la desarrollamos. No basta con formar a profesionales técnicamente impecables; necesitamos personas que diseñen sistemas auditables, transparentes, seguros y con supervisión humana obligatoria en áreas de alto impacto. Además, tienen que comprender el impacto ético, social y legal de sus creaciones e integrar estas características en los modelos de IA.

La integración de una perspectiva humanística en las titulaciones técnicas no es un freno a la innovación, sino la garantía de que la tecnología permanezca siempre al servicio de la persona y del bien común.

Así, el verdadero reto de nuestra época no es evitar que las máquinas piensen como humanos, sino garantizar que quienes diseñamos el futuro no olvidemos jamás lo que nos hace verdaderamente humanos.

Diego Borro Yágüez no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.

– ref. ¿Podría la IA acabar realmente con la especie humana? – https://theconversation.com/podria-la-ia-acabar-realmente-con-la-especie-humana-292723