Los avances rápidos en la sofisticación y la funcionalidad de plataformas militares habilitadas por inteligencia artificial (IA) requieren medidas urgentes para minimizar la probabilidad de que los estados las utilicen de manera que cause daño a civiles. El potencial de capacidades militares impulsadas por IA para causar daño a sociedades enteras y amenazar la supervivencia humana subraya la necesidad crítica de regímenes de gobernanza y preparación.
Responsabilidad compartida de China y Estados Unidos
Los regímenes de gobernanza buscan abordar las causas técnicas y de uso de crisis militares impulsadas por IA al requerir o prohibir ciertos comportamientos. Los mecanismos pueden variar desde declaraciones mutuas hasta acuerdos vinculantes y medidas de confianza que mejoren la comunicación y la transparencia. Para que estos mecanismos de gobernanza sean duraderos y efectivos, deben basarse en un método analítico mutuamente aceptable para determinar qué gobernar. Esto implica crear una jerarquía para priorizar qué iniciadores y respuestas gobernar, considerando factores como riesgo, volumen y tiempo.
Una crisis militar impulsada por IA ocurre en cuatro fases: iniciación, acción, efecto y respuesta. La fase de iniciación puede involucrar fallas técnicas de aplicaciones militares habilitadas por IA o decisiones de gobierno para utilizar IA de manera provocativa o peligrosa. Las fallas técnicas pueden incluir errores identificables en modelos de IA, errores no identificables (problemas de caja negra) y distorsión de señal no intencional. Los usos gubernamentales pueden variar desde la interrupción o destrucción intencional de función hasta acciones accidentales o no autorizadas.
Desarrollo de plataformas militares con IA
El Departamento de Defensa de los Estados Unidos y el Ejército Popular de Liberación de China están desarrollando activamente plataformas militares que incorporan modelos de IA. Estas plataformas pueden utilizarse para inteligencia, reconocimiento, vigilancia (ISR); procesamiento, análisis y visualización de datos; y la entrega de armas convencionales, cibernéticas y nucleares. Cada adición de una plataforma militar habilitada por IA aumenta el riesgo de una crisis militar impulsada por IA.
Los efectos de las acciones militares habilitadas por IA pueden ser severos, incluyendo víctimas civiles, daño a la infraestructura, destrucción de capacidades militares y daño ambiental. Estos efectos pueden provocar acciones retaliatorias, lo que lleva a una escalada y posibles espirales de crisis. Los gobiernos deben elegir mecanismos de cooperación para minimizar la probabilidad de tales crisis y su escalada.
Definir una jerarquía para priorizar qué gobernar
Definir una jerarquía para priorizar qué iniciadores y respuestas gobernar es crucial. Los métodos para crear esta jerarquía incluyen la evaluación de riesgo (probabilidad x gravedad), el conteo de escenarios y las evaluaciones de madurez. Cada método tiene sus limitaciones, pero proporcionan un marco para priorizar esfuerzos de gobernanza. Los estados pueden elegir priorizar basándose en la gravedad de los efectos en civiles u otros criterios como la probabilidad, el número de escenarios previsibles o la preparación para el uso militar.
Medidas de mitigación y preparación
A pesar de los desafíos, Estados Unidos y China deben buscar identificar medidas de mitigación y preparación “sin arrepentimientos”. Estas podrían incluir desarrollar una taxonomía bilateral de fallas y incidentes, definir acciones militares habilitadas por IA peligrosas, intercambiar principios de prueba y evaluación, acordar notificaciones mutuas de ejercicios militares habilitados por IA, y establecer procedimientos de comunicación estándar. Los compromisos mutuos para asegurar el control humano en tiempos de paz y encuentros rutinarios, y complementar compromisos sobre decisiones de uso de armas nucleares, son también esenciales.
Cooperación en escenarios catastróficos
La cooperación en escenarios catastróficos “perdida de control” emergentes de modelos de IA fronterizos es también crucial. Ambas superpotencias comparten un interés en prevenir que actores no estatales utilicen modelos de IA avanzados para desarrollar armas de destrucción masiva. Al acercarse a la inteligencia artificial general o la inteligencia artificial superinteligente, asegurar que estos sistemas se mantengan alineados con los intereses y valores humanos es fundamental.
Competencia militar y AI entre Estados Unidos y China
La competencia militar y AI entre Estados Unidos y China presenta desafíos, pero ejemplos históricos, como el Tratado de No Proliferación Nuclear, muestran que la cooperación es posible incluso durante rivalidades intensas. Los dos países deben explorar formas de cooperar en la gobernanza de AI, incluyendo desarrollar una base común de riesgos compartidos de AI, mejorar la transparencia y compartir información y mejores prácticas sobre la seguridad de AI.
Esfuerzos futuros en la gobernanza de crisis de AI
Los esfuerzos futuros en la gobernanza de crisis de AI deben centrarse en afinar mecanismos técnicos, someter a escrutinio métodos de jerarquía de riesgo y situarlos dentro de un contexto político-institucional. Los mecanismos técnicos deben distinguir entre errores comprensibles e incomprehensibles y considerar patrones de interacción hombre-máquina. Los métodos de jerarquía de riesgo deben priorizar riesgos a corto plazo mientras mantienen la conciencia de tecnologías emergentes. Los mecanismos de gobernanza deben reconocer la infeasibilidad técnica de distinguir entre sistemas de entrega convencional y nuclear y centrarse en evaluaciones robustas y mecanismos de gestión de crisis.
Cooperación estatal en crisis de AI
La cooperación estatal en crisis de AI debe basarse en percepciones compartidas de riesgo, clasificadas por actores iniciadores y priorizadas por urgencia y daño potencial. Los métodos basados en escenarios y jerarquías de madurez también pueden guiar marcos de riesgo. Sin embargo, la racionalidad técnica sola no es suficiente; los arreglos de gobernanza deben estar incrustados en un marco político e institucional más amplio.
Consenso de línea roja, restricción de carrera armamentista y confianza política e institucional
El consenso de línea roja, la restricción de carrera armamentista y la confianza política e institucional son esenciales para una gobernanza efectiva. Acordar categorías de aplicaciones militares habilitadas por IA que están fuera de los límites, implementar medidas para restringir la carrera armamentista inteligentizada y apoyar medidas de confianza y instrumentos legales internacionales son pasos cruciales. La Organización de las Naciones Unidas y otras plataformas multilaterales pueden facilitar el desarrollo de principios de base e incrementar el consenso.
La rivalidad estratégica en curso entre China y los Estados Unidos, caracterizada por la sospecha mutua y la incertidumbre, plantea desafíos significativos para la gobernanza de la inteligencia artificial (IA). Ambas partes deben liberarse del dilema de seguridad redefiniendo las percepciones, gestionando la competencia, estableciendo líneas rojas claras y fortaleciendo la colaboración en la seguridad de la IA. Iniciar un diálogo a través de discusiones académicas y técnicamente fundamentadas puede facilitar la comprensión mutua y reducir las malas percepciones.
Desafíos globales en la gobernanza de la IA
Para abordar los riesgos asociados con la IA general, incluyendo el uso malicioso, los fallos y los riesgos sistémicos, se requieren esfuerzos globales coordinados y colectivos. Alentadoramente, una comunidad creciente de científicos y expertos está dedicada a este esfuerzo compartido, ofreciendo vías prometedoras para la colaboración constructiva.
La responsabilidad compartida de China y los Estados Unidos
China y los Estados Unidos deben continuar promoviendo la gobernanza global de la IA bajo el marco de las Naciones Unidas y explorar la creación de un mecanismo internacional autoritativo para regular el comportamiento relacionado con la IA. Como potencias líderes en la tecnología y la innovación de la IA, comparten la responsabilidad de contribuir al desarrollo de la capacidad de la IA en los países en desarrollo y avanzar en los Objetivos de Desarrollo Sostenible de las Naciones Unidas. Iniciativas conjuntas en estas áreas fortalecerían la gobernanza global y demostrarían que el desarrollo responsable de la IA puede servir a intereses humanos comunes.
La importancia de la gobernanza de la IA en el ámbito militar
En resumen, la integración de la IA en activos y operaciones militares plantea riesgos significativos para los civiles, lo que requiere regímenes de gobernanza robustos y preparativos. Los Estados Unidos y China, como líderes en el desarrollo de la IA, tienen una responsabilidad especial de prevenir el uso indebido de la IA en el dominio militar. Al perseguir mecanismos para minimizar la probabilidad de crisis militares impulsadas por la IA y su escalada, y al fomentar la cooperación y la confianza, los dos países pueden sentar las bases para un camino hacia adelante en la gobernanza de la IA.
