Los avances rápidos en la sofisticación y funcionalidad de plataformas militares habilitadas por inteligencia artificial (IA) requieren medidas urgentes para minimizar la probabilidad de que los estados las utilicen de manera que causen daño a civiles. El potencial de capacidades militares impulsadas por IA para causar daño a sociedades enteras y amenazar la supervivencia humana subraya la necesidad crítica de regímenes de gobernanza y preparación. China y los Estados Unidos, como líderes en el desarrollo y difusión de IA, tienen una responsabilidad especial de prevenir el mal uso de IA en el dominio militar.
Los regímenes de gobernanza buscan abordar causas técnicas y de uso de crisis militares impulsadas por IA requiriendo o prohibiendo ciertos comportamientos. Los mecanismos pueden variar desde declaraciones mutuas hasta acuerdos vinculantes y medidas de confianza que mejoran la comunicación y la transparencia. Para que estos mecanismos de gobernanza sean duraderos y efectivos, deben basarse en un método analítico mutuamente aceptable para determinar qué gobernar. Esto implica crear una jerarquía para priorizar qué iniciadores y respuestas gobernar, considerando factores como riesgo, volumen y tiempo.
Una crisis militar impulsada por IA ocurre en cuatro fases: iniciación, acción, efecto y respuesta. La fase de iniciación puede involucrar fallas técnicas de aplicaciones militares habilitadas por IA o decisiones de gobierno para utilizar IA de manera provocativa o peligrosa. Las fallas técnicas pueden incluir errores identificables en modelos de IA, errores no identificables (problemas de caja negra) y distorsión de señal no intencional. Los usos gubernamentales pueden variar desde la interrupción o destrucción intencional de función hasta acciones no autorizadas o accidentales.
Desarrollo de plataformas militares con IA
El Departamento de Defensa de los Estados Unidos y el Ejército Popular de Liberación de China están desarrollando activamente plataformas militares que incorporan modelos de IA. Estas plataformas pueden utilizarse para inteligencia, reconocimiento, vigilancia (ISR); procesamiento, análisis y visualización de datos; y la entrega de armas convencionales, cibernéticas y nucleares. Cada adición de una plataforma militar habilitada por IA aumenta el riesgo de una crisis militar impulsada por IA.
Los efectos de las acciones militares habilitadas por IA pueden ser severos, incluyendo víctimas civiles, daño a la infraestructura, destrucción de capacidades militares y daño ambiental. Estos efectos pueden provocar acciones de represalia, lo que lleva a la escalada y potenciales espirales de crisis. Los gobiernos deben elegir mecanismos de cooperación para minimizar la probabilidad de tales crisis y su escalada.
Definición de una jerarquía para priorizar la gobernanza
Definir una jerarquía para priorizar qué iniciadores y respuestas gobernar es crucial. Los métodos para crear esta jerarquía incluyen la evaluación de riesgos (probabilidad x gravedad), el conteo de escenarios y las evaluaciones de madurez. Cada método tiene sus limitaciones, pero proporcionan un marco para priorizar los esfuerzos de gobernanza. Los estados pueden elegir priorizar basándose en la gravedad de los efectos en civiles u otros criterios como la probabilidad, el número de escenarios previsibles o la preparación para el uso militar.
Medidas de mitigación de riesgos y preparación
A pesar de los desafíos, los Estados Unidos y China deben buscar identificar medidas de mitigación de riesgos y preparación «sin arrepentimientos». Estas podrían incluir desarrollar una taxonomía bilateral de fallas y incidentes, definir acciones militares habilitadas por IA peligrosas, intercambiar principios de prueba y evaluación, acordar notificaciones mutuas de ejercicios militares habilitados por IA, y establecer procedimientos de comunicación estándar. Los compromisos mutuos para asegurar el control humano en tiempos de paz y encuentros rutinarios, y complementar compromisos sobre decisiones de uso de armas nucleares, son también esenciales.
Cooperación en escenarios catastróficos de pérdida de control
La cooperación en escenarios catastróficos de pérdida de control emergentes de modelos de IA fronterizos es también crucial. Ambas superpotencias comparten un interés en prevenir que actores no estatales utilicen modelos de IA avanzados para desarrollar armas de destrucción masiva. Al acercarse a la inteligencia artificial general o la inteligencia artificial superinteligente, asegurar que estos sistemas se mantengan alineados con los intereses y valores humanos es fundamental.
Competencia militar y AI entre EE. UU. y China
La competencia militar y AI entre EE. UU. y China presenta desafíos, pero ejemplos históricos, como el Tratado de No Proliferación Nuclear, muestran que la cooperación es posible incluso durante rivalidades intensas. Los dos países deben explorar formas de cooperar en la gobernanza de AI, incluyendo el desarrollo de un marco de referencia común de riesgos compartidos de AI, la mejora de la transparencia y el intercambio de información y mejores prácticas sobre la seguridad de AI.
Esfuerzos futuros en la gobernanza de crisis de AI
Los esfuerzos futuros en la gobernanza de crisis de AI deben centrarse en refinar mecanismos técnicos, examinar métodos de jerarquía de riesgos y situarlos dentro de un contexto político-institucional. Los mecanismos técnicos deben distinguir entre errores comprensibles e incomprensibles y considerar patrones de interacción hombre-máquina. Los métodos de jerarquía de riesgos deben priorizar riesgos a corto plazo mientras mantienen la conciencia de tecnologías emergentes. Los mecanismos de gobernanza deben reconocer la infeabilidad técnica de distinguir entre sistemas de entrega convencional y nuclear y centrarse en evaluaciones robustas y mecanismos de gestión de crisis.
Cooperación estatal en crisis de AI
La cooperación estatal en crisis de AI debe basarse en percepciones compartidas de riesgo, clasificadas por actores iniciadores y priorizadas por urgencia y potencial de daño. Los métodos basados en escenarios y jerarquías de madurez también pueden guiar marcos de riesgo. Sin embargo, la racionalidad técnica sola no es suficiente; los arreglos de gobernanza deben estar integrados en un marco político e institucional más amplio.
Consenso de línea roja, restricciones de carrera armamentista y confianza política e institucional
El consenso de línea roja, la restricción de carrera armamentista y la confianza política e institucional son esenciales para una gobernanza efectiva. Acordar categorías de aplicaciones militares habilitadas por IA que están fuera de límites, implementar medidas para restringir la carrera armamentista inteligentizada y apoyar medidas de confianza y instrumentos legales internacionales son pasos cruciales. La Organización de las Naciones Unidas y otras plataformas multilaterales pueden facilitar el desarrollo de principios básicos y consenso incremental.
La rivalidad estratégica en curso entre China y Estados Unidos, caracterizada por la sospecha mutua y la incertidumbre, plantea desafíos significativos para la gobernanza de la inteligencia artificial (IA). Ambas partes deben liberarse del dilema de seguridad redefiniendo las percepciones, gestionando la competencia, estableciendo líneas rojas claras y fortaleciendo la colaboración en la seguridad de la IA. Iniciar un diálogo a través de discusiones académicas y técnicamente fundamentadas puede facilitar la comprensión mutua y reducir las malas percepciones.
Desafíos para la gobernanza de la IA
Para abordar los riesgos asociados con la IA general, incluyendo el uso malicioso, los fallos y los riesgos sistémicos, se requieren esfuerzos globales colectivos y coordinados. Alentadoramente, una creciente comunidad de científicos y expertos está dedicada a este esfuerzo compartido, ofreciendo vías prometedoras para la colaboración constructiva.
La responsabilidad compartida de China y Estados Unidos
China y Estados Unidos deben continuar promoviendo la gobernanza global de la IA bajo el marco de las Naciones Unidas y explorar la creación de un mecanismo internacional autoritativo para regular el comportamiento relacionado con la IA. Como potencias líderes en la tecnología y la innovación de la IA, comparten la responsabilidad de contribuir al desarrollo de la capacidad de la IA en los países en desarrollo y avanzar en los Objetivos de Desarrollo Sostenible de las Naciones Unidas. Iniciativas conjuntas en estas áreas fortalecerían la gobernanza global y demostrarían que el desarrollo responsable de la IA puede servir a intereses humanos comunes.
La importancia de la gobernanza de la IA en el ámbito militar
En resumen, la integración de la IA en activos y operaciones militares plantea riesgos significativos para los civiles, lo que requiere regímenes de gobernanza y preparación robustos. Estados Unidos y China, como líderes en el desarrollo de la IA, tienen una responsabilidad especial para prevenir el uso malicioso de la IA en el ámbito militar. Al perseguir mecanismos para minimizar la probabilidad de crisis militares impulsadas por la IA y su escalada, y al fomentar la cooperación y la confianza, los dos países pueden sentar las bases para un camino hacia adelante en la gobernanza de la IA.
