Source: The Conversation – (in Spanish) – By Ramón López de Mántaras, Profesor de investigación del CSIC, Instituto de Investigación en Inteligencia Artificial (IIIA – CSIC)
El transhumanismo es una corriente filosófica y cultural que sostiene que la tecnología debería permitir superar las limitaciones biológicas del ser humano. Sus defensores plantean utilizar los avances en inteligencia artificial, biotecnología, ingeniería genética, neurotecnología y otras tecnologías para ampliar radicalmente nuestras capacidades físicas y cognitivas. De igual manera, prevén retrasar o eliminar el envejecimiento y transformar profundamente la naturaleza humana.
En sus versiones más extremas, el transhumanismo contempla incluso la posibilidad de sustituir progresivamente al ser humano biológico por formas de existencia posthumanas, incluidas eventuales superinteligencias artificiales.
Las trampas del ‘largoplacismo’
Por su parte, el altruismo eficaz es una corriente filosófica que propone utilizar la evidencia, el razonamiento y el análisis coste-beneficio para determinar qué actuaciones pueden generar mayor valor. Una de sus derivaciones es el “largoplacismo”, que lleva la perspectiva del altruismo efectivo mucho más allá del presente y concede una importancia extraordinaria al bienestar de las generaciones posthumanas futuras –tanto biológicas como digitales– y a la cantidad de “valor” que estas podrían aportar en un futuro lejano.
Llevada a posiciones extremas, esta forma de pensar puede conducir a aceptar costes y riesgos importantes en el presente, si se considera que con ello aumenta significativamente el valor de lo que está por venir. Y aquí aparece una cuestión fundamental: ¿hasta qué punto es legítimo aceptar daños reales hoy en nombre de un futuro hipotético al que se atribuye un valor incalculable?
Desde esta perspectiva, evitar cualquier impedimento para que posibles seres posthumanos desarrollen todo su potencial puede convertirse en una de las máximas prioridades morales.
Qué entendemos por humanidad
“Hay que preservar la humanidad”, sostienen los largoplacistas. Pero la pregunta que rara vez se formula con suficiente claridad es: ¿qué entienden exactamente por esto?
Para la inmensa mayoría de nosotros, significa impedir que el Homo sapiens desaparezca como especie. Sin embargo, cuando determinados líderes tecno-autoritarios como Sam Altman, Dario Amodei –que sacudió la opinión pública con un comunicado reciente sobre el desarrollo de la IA–, Nick Bostrom, Ben Goertzel, Ray Kurzweil, Elon Musk, Larry Page, Peter Thiel o Eliezer Yudkowsky, vinculados al transhumanismo y al largoplacismo, hablan de preservar la humanidad, no necesariamente están hablando de preservar la especie humana.
Dos formas de extinción
En determinados debates sobre el riesgo existencial, se ha establecido, de hecho, una distinción entre dos formas de desaparecer del mapa: la “extinción terminal” y la “extinción final”. Según el filósofo Émile P. Torres, la primera es la desaparición definitiva del Homo sapiens y de cualquier posibilidad de que nuestra especie sea sustituida por una forma de existencia posthumana.
La “extinción final”, en cambio, se produciría cuando el ser humano fuera reemplazado por alguna forma de existencia posthumana considerada suficientemente valiosa como para representar una continuidad de la humanidad.
La distinción no es un simple juego de palabras: tiene consecuencias filosóficas y políticas enormes. Porque implica que, para determinadas visiones transhumanistas y para algunos sectores del altruismo eficaz, la desaparición de la especie humana tal y como la conocemos no sería necesariamente el peor futuro posible. El peor escenario sería que nuestra especie desapareciera sin dejar ningún sucesor posthumano capaz de desarrollar ese futuro. Así, la sustitución progresiva de los seres humanos por una nueva forma de existencia considerada superior podría llegar a interpretarse como una continuación –e, incluso, como una culminación– de la humanidad.
El papel de la superinteligencia artificial
Para alcanzar ese futuro transhumanista, muchos de sus defensores, especialmente en Silicon Valley, consideran que la sustitución progresiva de los seres humanos pasa necesariamente por el desarrollo de la superinteligencia artificial. Y aquí aparece una consecuencia particularmente inquietante. Si esa superinteligencia artificial se concibe como el instrumento necesario para alcanzar un futuro, en teoría, inmensamente más valioso, los riesgos asociados a su desarrollo, por grandes que sean, pueden llegar a considerarse un precio aceptable.
Desde esta perspectiva, regular el desarrollo de una hipotética superinteligencia artificial, ralentizarlo o detenerlo podría interpretarse no como una medida de prudencia, sino como una renuncia al futuro. La posibilidad de una catástrofe presente queda así subordinada a la promesa de un futuro hipotético.
Quién toma las decisiones
En este contexto, ya no se trata únicamente de preguntarnos cómo podemos evitar los riesgos de la IA, sino de decidir qué futuro consideramos deseable y qué riesgos estamos dispuestos a asumir para alcanzarlo. Y esa decisión no puede quedar en manos de un reducido grupo de empresarios, inversores y tecnólogos convencidos de que su particular visión del futuro debe convertirse en el destino de toda la humanidad.
El problema se vuelve todavía más grave cuando las mismas empresas que desarrollan estas tecnologías se presentan como las únicas capaces de gestionar sus riesgos.
Si consiguen convencer a la sociedad –y, sobre todo, a los responsables políticos– de que solo ellas poseen los conocimientos necesarios para evitar una catástrofe, se otorgan a sí mismas una supuesta capacidad para determinar qué riesgos debemos aceptar, qué desarrollos son legítimos y qué futuro debemos perseguir.
Es una concentración de poder incompatible con una sociedad democrática. Quienes tienen miles de millones de dólares invertidos en el desarrollo de la inteligencia artificial no pueden ser al mismo tiempo los árbitros de los riesgos que genera esa tecnología. Y mucho menos pueden decidir por el conjunto de la sociedad qué significa “progreso” o qué futuro merece la pena construir.
Por eso, resultan especialmente preocupantes las recientes declaraciones de Donald Trump, respaldadas por los máximos dirigentes de las grandes empresas tecnológicas, defendiendo que la superinteligencia es el horizonte que debemos alcanzar y que sus riesgos deben gestionarse mediante la autorregulación de las mismas empresas que compiten por desarrollarla.
Por un control democrático efectivo
La contradicción es evidente: la autorregulación no puede convertirse en una forma de privatizar una decisión que afecta a toda la sociedad. No podemos tolerar que las empresas que compiten por alcanzar primero una hipotética superinteligencia artificial sean también quienes determinen cuándo los riesgos son aceptables, qué salvaguardas son suficientes y hasta dónde debe llegar la carrera.
Necesitamos instituciones públicas capaces de ejercer un control democrático efectivo sobre estas tecnologías, establecer qué desarrollos requieren límites y qué objetivos tecnológicos queremos promover. Y necesitamos hacerlo antes de que las decisiones fundamentales hayan quedado irreversiblemente condicionadas por quienes controlan la tecnología, el capital y la infraestructura.
Ramón López de Mántaras no recibe salario, ni ejerce labores de consultoría, ni posee acciones, ni recibe financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y ha declarado carecer de vínculos relevantes más allá del cargo académico citado.
– ref. ¿Y si para Silicon Valley la extinción del ‘Homo sapiens’ fuera un ‘daño colateral’ aceptable? – https://theconversation.com/y-si-para-silicon-valley-la-extincion-del-homo-sapiens-fuera-un-dano-colateral-aceptable-293524