Un Futuro Ilustrado

La IA y la Superación de la Destrucción Mutua Asegurada, por Raquel Rodríguez

Grok

La idea de este trabajo surge de un ejercicio propuesto por el Profesor Francisco Jariego durante el curso. Con la premisa de que pensar en el futuro sirve para mejorarlo, la idea de usar la Inteligencia Artificial como ente participativo en la toma de decisiones, neutral, basándose en datos, millones de datos, y sin sesgos personales, parece una solución a muchas disputas.

Ante una bibliografía inabarcable y la falta de tiempo para leerlo todo, será ChatGPT quien ayude en la redacción de este paper.

La solicitud del prompt inicial planteaba explorar una transición conceptual desde la Teoría de la Destrucción Mutua Asegurada (DMA)¹, un paradigma estratégico de la Guerra Fría, hacia un futuro en el que la Inteligencia Artificial (IA) desempeña un papel fundamental en los procesos de negociación y resolución de conflictos.

El prompt también solicitaba la inclusión de un análisis basado en Teorías de juego, así como el desarrollo de una propuesta teórica en la que la IA podría superar las limitaciones de la DMA. Además, se debía incluir una reflexión sobre el potencial de la IA para inaugurar una nueva era de ilustración y progreso semejante a la del siglo XVIII. El prompt insistió en todo momento en destacar la IA como un agente de cambio positivo y transformador en la arena global².

Por tanto, y destacando que el trabajo final parte de texto ofrecido por la inteligencia artificial generativa, la bibliografía destaca links a artículos leídos durante varios meses en los que se ha ido forjando la idea del tema final, todos ellos con una temática común: la IA como agente transformador desde una perspectiva tecno-optimista.

2.  La IA como Nueva Ilustración

La Ilustración del siglo XVIII fue un período de transformación radical en la historia de la humanidad, caracterizado por un movimiento intelectual que abogaba por el uso de la razón, la ciencia y la búsqueda del conocimiento como medios para mejorar la sociedad y liberar al ser humano de la superstición y la opresión. Inspirados por ideales como la libertad, la igualdad y la justicia, los pensadores de la Ilustración promovieron reformas políticas, sociales y científicas que sentaron las bases de las sociedades modernas.

En un contexto contemporáneo, la IA podría desempeñar un papel análogo como catalizador de una nueva era de progreso y transformación. Así como la Ilustración utilizó la razón y el conocimiento científico para cuestionar el estatus quo y promover cambios positivos, la IA, con su capacidad para procesar información, aprender de vastos conjuntos de datos y tomar decisiones optimizadas, tiene el potencial de redefinir las relaciones internacionales, los sistemas económicos y las estructuras sociales.

Al igual que la Ilustración desafió los dogmas religiosos y las estructuras de poder autoritarias mediante la promoción del pensamiento crítico y el empirismo, la IA está desafiando las formas tradicionales de toma de decisiones y gobernanza. La IA ofrece herramientas para analizar problemas complejos con una profundidad y precisión sin precedentes, promoviendo soluciones basadas en datos objetivos y algoritmos transparentes.

Durante la Ilustración, la razón se erigió como el principio rector que debía guiar la política, la ética y la ciencia. De manera similar, la IA puede ser vista como una extensión del racionalismo ilustrado, aplicando algoritmos avanzados y métodos científicos para optimizar procesos, resolver conflictos y mejorar la calidad de vida de las personas. Así como los ilustrados confiaban en la capacidad de la mente humana para comprender y mejorar el mundo, la IA representa una confianza en la capacidad de las máquinas inteligentes para analizar y resolver problemas de manera eficiente y justa.

La Ilustración impulsó la idea de que todas las personas tienen derechos inherentes y deberían ser tratadas con justicia y equidad. La IA, si se desarrolla con principios éticos sólidos, puede promover un nuevo paradigma de justicia y equidad en diversos ámbitos, desde el acceso a la información hasta la resolución de disputas. Los sistemas de IA pueden ser diseñados para garantizar la imparcialidad, minimizando los sesgos humanos y promoviendo decisiones basadas en datos que reflejen los intereses de todas las partes.

La IA tiene el potencial de liderar un renacimiento digital en el siglo XXI. Este renacimiento digital no solo implicaría avances tecnológicos, sino también un replanteamiento fundamental de cómo las sociedades operan, interactúan y resuelven conflictos. La IA puede fomentar un enfoque colaborativo, multilateral y basado en el conocimiento para abordar desafíos globales como el cambio climático, la pobreza, las pandemias y la proliferación de armas nucleares.

 Este nuevo renacimiento no solo se limitaría a la tecnología y la ciencia, sino que también abarcaría un enfoque renovado hacia los valores éticos y sociales que guían el progreso humano. Al aprovechar las capacidades de la IA para analizar y resolver problemas complejos de manera justa y equitativa, la humanidad podría alcanzar niveles sin precedentes de cooperación, desarrollo sostenible y bienestar general.

En resumen, la IA, al igual que la Ilustración del siglo XVIII, tiene el potencial de transformar profundamente las estructuras sociales, políticas y económicas del mundo moderno. Si se orienta correctamente, puede convertirse en una fuerza poderosa para el bien común, promoviendo un mundo más justo, equitativo y sostenible.

3. Teorías de Juego

Las Teorías de juego constituyen un marco fundamental en la economía, la ciencia política, la sociología y la psicología para entender cómo los individuos o agentes racionales toman decisiones estratégicas en situaciones donde el resultado depende de las elecciones de todos los participantes. Inicialmente desarrollada en la década de 1940, esta disciplina ha evolucionado para incluir una amplia gama de modelos matemáticos que intentan prever y explicar el comportamiento en conflictos y negociaciones.

La Teoría de juegos fue formalizada por primera vez por John von Neumann y Oskar Morgenstern en su obra "Theory of Games and Economic Behavior" (1944). Este trabajo sentó las bases para analizar situaciones competitivas y cooperativas, utilizando modelos matemáticos para estudiar los posibles resultados y las estrategias óptimas de los jugadores. El concepto más conocido es el Equilibrio de Nash, propuesto por John Nash en 1950, que establece que, en un juego donde todos los jugadores conocen las estrategias de los demás y ninguno tiene nada que ganar al cambiar solo su estrategia, todos están en equilibrio.

Con el tiempo, las Teorías de juego han sido utilizadas para analizar dilemas de seguridad internacional, como el juego del Dilema del Prisionero, que refleja la paradoja de la cooperación en contextos de desconfianza mutua, y han tenido un impacto significativo en el desarrollo de estrategias de guerra y negociación durante la Guerra Fría. Asimismo, los juegos cooperativos y no cooperativos se han utilizado para modelar comportamientos de alianzas políticas, acuerdos comerciales, y estrategias de competencia en mercados globales.

En el contexto contemporáneo, la integración de IA con las Teorías de juego abre nuevas posibilidades para optimizar los procesos de negociación. Con su capacidad de procesamiento de grandes volúmenes de datos y la ejecución de algoritmos complejos de aprendizaje automático, la IA puede emplear modelos para simular y analizar diversos escenarios de negociación, identificando estrategias que maximicen el beneficio común o minimicen el riesgo de conflicto.

Por ejemplo, la IA puede utilizar el Equilibrio de Nash para encontrar puntos de consenso en negociaciones complejas, donde múltiples partes con intereses diversos buscan llegar a un acuerdo mutuamente beneficioso. Al modelar los comportamientos de cada jugador (ya sea un país, una corporación o un grupo de interés) y sus posibles respuestas ante diferentes movimientos, la IA puede prever los resultados de diferentes estrategias y sugerir la más eficiente. Este enfoque podría ser utilizado para mediar en negociaciones internacionales, resolver disputas comerciales o coordinar esfuerzos multinacionales en desafíos globales, como el cambio climático o la seguridad cibernética.

Además, los juegos cooperativos se presentan como herramientas útiles en la negociación asistida por IA, permitiendo analizar cómo los participantes pueden formar coaliciones o alianzas para alcanzar objetivos comunes. La IA puede evaluar rápidamente los costos y beneficios de diferentes acuerdos de cooperación, identificando estrategias de reparto de recursos o incentivos para mantener la cooperación a largo plazo.

Algunos ejemplos de negociaciones simuladas por IA usando modelos de teorías de juegos serían los siguientes:

Resolución de conflictos internacionales: En negociaciones para la reducción de armas nucleares, la IA puede utilizar modelos de juegos de suma cero, donde el beneficio de un jugador es exactamente la pérdida de otro, para simular el resultado de diferentes estrategias de desarme. Analizando los datos históricos y las políticas actuales, la IA puede sugerir escenarios de desarme gradual que maximicen la seguridad mutua, superando así la lógica de la DMA.

Negociaciones comerciales: La IA puede aplicar modelos de juegos de negociación en conflictos comerciales entre naciones o corporaciones. Utilizando técnicas como la negociación automatizada, los agentes pueden analizar millones de posibles acuerdos comerciales, identificando los que ofrecen mayores beneficios a todas las partes involucradas.

Gestión de recursos compartidos: En situaciones de gestión de recursos hídricos transfronterizos, la IA puede utilizar teorías de juegos cooperativos para ayudar a los países a formar alianzas, repartir equitativamente los recursos y resolver conflictos sobre su uso.

Con estos ejemplos, se evidencia cómo las teorías de juego, combinadas con las capacidades avanzadas de la IA, tienen el potencial de transformar la forma en que se llevan a cabo las negociaciones globales, proporcionando un enfoque más estratégico, eficiente y equitativo.

4.  Destrucción Mutua Asegurada: Triángulo de Futuros

Hemos utilizado un triángulo de futuros para conectar tres tiempos: el pasado con la Teoría de la Destrucción Mutua Asegurada, el presente caracterizado por su inestabilidad y la necesidad de nuevas estrategias, y el futuro en el que la IA podría redefinir las reglas de la negociación y la diplomacia global.

La Teoría de la Destrucción Mutua Asegurada surgió durante la Guerra Fría como una doctrina estratégica que buscaba prevenir un conflicto nuclear entre las superpotencias, Estados Unidos y la Unión Soviética. La idea fundamental detrás de la DMA es que, en un escenario de enfrentamiento nuclear, ambas partes poseerían la capacidad de infligir daños catastróficos mutuos, garantizando así que cualquier intento de ataque sería suicida para ambas naciones. Esta estrategia, sustentada en la amenaza de represalias devastadoras, creó un equilibrio de poder que, paradójicamente, aseguraba la paz a través del miedo. Hoy diríamos que era una paz “fake”.

En el presente, nos encontramos en un punto de inflexión donde las limitaciones de la DMA son evidentes. Estas limitaciones incluyen la proliferación de armas nucleares, las amenazas de actores no estatales, los ciberataques, y los dilemas éticos asociados con la destrucción masiva. La necesidad de nuevas estrategias para la negociación y la resolución de conflictos es apremiante.

En este contexto, la IA emerge como una potencial solución innovadora para los procesos de negociación y resolución de conflictos internacionales. A diferencia de la DMA, basada en el disuasivo uso de la fuerza, la IA propone un enfoque más dinámico y adaptable, capaz de analizar vastas cantidades de datos en tiempo real, evaluar múltiples escenarios y diseñar estrategias optimizadas para la resolución pacífica de disputas.

Mirando hacia el futuro, la IA puede desempeñar un papel crucial en los procesos de negociación internacional. La IA como actor en los procesos de negociación, representa un futuro en el que las decisiones no dependen exclusivamente de humanos, sino que son co-guiadas por sistemas inteligentes que buscan maximizar el bienestar común, reducir los conflictos y prevenir enfrentamientos armados. La IA no solo es un avance tecnológico, sino también un actor capaz de superar las limitaciones de estrategias tradicionales como la DMA³

5.  Superación de la DMA por la IA

5.1. Limitaciones de la DMA en el contexto global contemporáneo

La DMA fue diseñada para un contexto de conflicto bipolar entre dos superpotencias nucleares, pero el siglo XXI presenta un entorno multipolar con una variedad de actores, incluidos estados más pequeños con capacidades nucleares y actores no estatales que no se ven disuadidos por las amenazas nucleares tradicionales.

La lógica de la DMA implica un compromiso implícito con la posibilidad de destrucción masiva, lo cual es éticamente problemático en un mundo que valora cada vez más los derechos humanos, la ética de la guerra, y la responsabilidad de proteger a las poblaciones civiles.

El desarrollo de nuevas tecnologías, como los ciberataques y las armas autónomas, ha introducido nuevas vulnerabilidades que la DMA no puede abordar. Estos avances permiten ataques que podrían desestabilizar sistemas de defensa nuclear sin desencadenar una respuesta directa de represalias nucleares, socavando la lógica de disuasión de la DMA.

La proliferación de armas nucleares y la política de disuasión nuclear basada en la DMA han incrementado el riesgo de accidentes, errores de cálculo o escaladas no intencionadas, lo que podría desencadenar una catástrofe global.

Ante estas limitaciones, la comunidad internacional necesita explorar alternativas más adaptativas y éticas, donde la IA ofrece un camino prometedor para superar los desafíos inherentes a la DMA.

5.2. Ventajas de la IA para superar las limitaciones de la DMA

Algunas de las ventajas que la IA aporta a este campo incluyen la capacidad de procesamiento y análisis avanzado; procesar grandes cantidades de datos en tiempo real, identificar patrones y prever comportamientos que serían imposibles de detectar para los seres humanos. Esto permite un análisis más preciso y oportuno de situaciones complejas, facilitando decisiones estratégicas basadas en datos concretos y objetivos.

Utilizando algoritmos de aprendizaje automático y teorías de juego, la IA puede simular millones de escenarios posibles para identificar las estrategias más efectivas que maximicen los beneficios para todas las partes involucradas, minimizando simultáneamente los riesgos de escalada de conflictos.

Por otro lado, la IA, si se diseña adecuadamente, puede operar como un agente neutral en las negociaciones, ajeno a los sesgos emocionales y políticos que suelen influir en los negociadores humanos. Esto podría llevar a decisiones más justas y equitativas en situaciones de conflicto.

Los sistemas de IA pueden ayudar a mitigar el riesgo de errores humanos, como los errores de cálculo o las decisiones impulsivas, que pueden conducir a una escalada no intencionada de conflictos. Al automatizar ciertos procesos de toma de decisiones, se puede reducir la probabilidad de accidentes o respuestas irracionales.

La IA puede aprender de cada interacción y mejorar continuamente sus estrategias, lo que permite adaptarse a nuevas amenazas o circunstancias cambiantes con una velocidad y eficacia mucho mayores que los procesos humanos tradicionales.

6. Conclusión

A lo largo de este paper, se ha analizado la transición de un paradigma de seguridad basado en la Destrucción Mutua Asegurada a uno nuevo donde la Inteligencia Artificial actúa como agente central en los procesos de negociación y resolución de conflictos. Mientras que la DMA, desarrollada en el contexto de la Guerra Fría, se fundamenta en la amenaza de destrucción total como medio de disuasión, sus limitaciones en el mundo contemporáneo son cada vez más evidentes ante nuevas amenazas globales, dilemas éticos y avances tecnológicos.

Se ha explorado cómo la IA puede ser vista como una nueva Ilustración, un renacimiento digital que sigue los pasos del movimiento intelectual del siglo XVIII, promoviendo un mundo más racional, justo y equitativo. Así como la Ilustración utilizó la razón y el conocimiento para transformar la sociedad, la IA ofrece la posibilidad de un progreso similar en la era contemporánea, mediante el uso de tecnologías avanzadas para mejorar la toma de decisiones, democratizar el acceso al conocimiento y reducir las desigualdades. A través del uso de teorías de juego y modelos matemáticos, la IA tiene la capacidad de optimizar las negociaciones internacionales, prever escenarios de conflicto y promover soluciones pacíficas, justas y equitativas.

La transición de la DMA a un paradigma centrado en la IA como agente negociador presenta no solo una solución innovadora a los problemas de seguridad internacional, sino también una oportunidad para redefinir los principios de justicia, cooperación y progreso en el siglo XXI. Si se desarrollan y utilizan con prudencia, las tecnologías de IA pueden guiar a la humanidad hacia una nueva era de paz y prosperidad, alineada con los ideales de un Renacimiento Digital que refuerce los valores fundamentales de la sociedad global.

En resumen, podemos decir que los beneficios potenciales de la IA como herramienta de progreso serían los siguientes:

• Promoción de la paz y la diplomacia: Mediante el uso de algoritmos de negociación y modelos de teoría de juegos, la IA puede ayudar a los países a encontrar soluciones mutuamente beneficiosas, incluso en conflictos aparentemente insuperables.

• Acceso a la información y educación: Así como la imprenta permitió la difusión de las ideas de la Ilustración, la IA puede ser un vehículo para la diseminación de información crítica y la educación a nivel global, capacitando a individuos y comunidades para tomar decisiones informadas.

• Reducción de desigualdades: Al analizar datos sociales, económicos y de salud, la IA puede ayudar a los gobiernos y organizaciones a diseñar intervenciones más efectivas para reducir las disparidades y mejorar la calidad de vida de las poblaciones marginadas.

• Innovación ética en la gobernanza: Inspirada en los principios ilustrados de racionalidad y justicia, la IA puede desempeñar un papel crucial en la construcción de sistemas de gobernanza más transparentes y participativos. Mediante la implementación de algoritmos transparentes y audibles, se puede aumentar la confianza pública en las instituciones y fomentar una cultura de responsabilidad y equidad.

7. Críticas a la solución ofrecida por la IA Generativa al reto de la superación de la DMA

El objeto de este trabajo era usar una herramienta de IA generativa como ChapGPT en el contexto de los estudios de futuro. En este caso se trataba de pedirle la solución a la teoría de la DMA de Von Neuman, desde un punto de vista en el que la IA es un agente negociador independiente, y pedimos un punto de vista “buenista”. El resultado como se ve es muy optimista, poco sofisticado y no termina de solucionar el problema estratégico de la confrontación. Pedimos para complementar el trabajo una fórmula matemática que incluyera la IA como un factor en la ecuación, y el resultado también es igualmente simplista y no resuelve el problema.

El objetivo de lograr que los conflictos se solucionen a través de una solución pacífica dictada por la IA, a través de algoritmos que tengan en cuenta todos los factores en juego, que analicen los diferentes escenarios, pérdidas y ganancias de los actores, y que esa solución pacífica sea aceptada como válida y justa por los actores, no deja de ser un futuro posible, altamente especulativo, y no más que deseable. Hoy por hoy, la IA, sin una supra estructura, no consigue resolver la DMA.

Otro de los buenismos es hablar de un algoritmo ético cuando, en palabras de Iván Soto Macía⁴:

los preceptos éticos son muy distintos: para la IA desarrollada en el ámbito individualista-democrático-categórico occidental una IA colectivista-autoritaria-utilitarista es algo tan ajeno como Xi Jin Ping para Biden. Pueden entenderse, pero no se van a ir de cañas. Está por ver si un imperativo categórico puede ser “programado”, ese es otro debate, y de si vamos a limitar esencialmente el desarrollo de estas tecnologías en el ámbito occidental, y la consecuencia de esto.

Para acabar, lanzamos un mensaje buenista de nuevo, esta vez propio, a través de las leyes del futuro de Jim Dator:

• la primera, el futuro no puede predecirse porque no existe, pero los futuros deseables pueden y deben ser visualizados, inventados, implementados y evaluados continuamente, revisados y re-visualizados: tenemos un futuro preferido y la IA nos lo ha “pintado”.

• La segunda, cualquier idea útil sobre el futuro debe parecer ser ridícula, también la cumplimos sin lugar a duda.

• Y la tercera, el tecnodeterminismo, fundamenta la idea inicial del paper: la tecnología tiene vida propia y el cambio tecnológico es la base del cambio social.

8. ANEXO: Prompts

Aportamos los prompts desde el mes de abril, usando ChatGPT 4.0, donde se aprecia la evolución de lo que termina siendo este paper.

• Abril 2024: Dame un esquema de lo que sería un trabajo de investigación cuyo tema principal es el futuro. Partimos de que la Ilustración del siglo XVIII en Europa supuso un avance en el pensamiento crítico, la industrialización y los valores democráticos. La llegada de la IA es la consolidación del avance tecnológico y el resurgir de la filosofía y la ética. El futuro a 10 o 20 años es es la consolidación de la ética y la justicia e igualdad social.

• Mayo 2024: write me a paper with 1500 words comparing the Enlightenment in Europe in the XVIII century and the irruption of the AI trying to demonstrate that we could be better.

• Mayo 2024: quiero diseñar un mecanismo dentro de la teoría de juegos que supere a la teoría de la destrucción mutua asegurada que proponía Neumann y que no ha tenido alternativas. Introduciendo la IA como elemento que puede incentivar a cooperar.

• Julio 2024: Quiero un paper de 10 páginas word letra tamaño 12 y espaciado normal con la siguiente temática: la introducción es una rueda de futuros donde el pasado es la teoría de la destrucción mutua asegurada y el futuro es la inteligencia artificial como agente en los procesos de negociación. También quiero meter un capítulo sobre las teorías de juego. El desarrollo: la teoría de que la DMA puede ser superada por la IA teniendo en cuenta la tecnología, la ética, los algoritmos, etc. También una posible fórmula matemática que supera a la DMA. Punto de vista benévolo con la IA como nueva Ilustración y avance semejante a la del siglo XVIII.

• Septiembre 2024: continuando con el prompt inicial, y en relación a la fórmula, podrías explicármela con ejemplos, dando un valor a cada letra por favor?

• Octubre 2024: cómo representas una rueda de futuros teniendo en cuenta el pasado, presente y futuro. Dime cual es la mejor representación visual.

• Octubre 2024. Imagen (Grok): Un futuro en el que la teoría de la Destrucción Mutua Asegurada es superada por la inteligencia artificial, ilustrando un mundo pacífico sin dinámicas de bloques políticos.

RAQUEL RODRÍGUEZ trabaja en Banca de Inversión. Ha realizado diversos cursos de posgrado y especialización en inteligencia, innovación y transformación digital. Cursó el programa de doctorado Conflicto Político y Procesos de Pacificación en la UCM y publicó el trabajo de investigación del Diploma de Estudios Avanzados: "Geopolítica Crítica: El Pacto Ibérico de 1939" en la Revista Electrónica de Geografía y Ciencias Sociales de la Universitat de Barcelona.

Alumna de la III Promoción (2023-2024) de Estudios de Futuros: Ciencia Filosofía y Ficción

© Raquel Rodríguez. Todos los derechos reservados.

1. En inglés, Mutually Assured Destruction (MAD)

2. En el Anexo se puede ver el prompt completo.

3. El Triángulo de futuros no ha sido generada por ChatGPT.

4. Gracias infinitas a Iván Soto Macía, compañero de Posgrado, que ha aportado su valioso punto de vista y su conocimiento sobre la toma de decisiones en la era de la IA y sobre el dilema utilitarismo vs moral categórica.