IA vs. el Pentágono: El conflicto de los robots asesinos

Menos de una semana después de que el Pentágono impulsara un nuevo lenguaje contractual que permitiría al ejército utilizar modelos comerciales para “cualquier uso lícito”, incluyendo la vigilancia masiva doméstica y la letalidad autónoma, Anthropic dijo que no. El director ejecutivo de la empresa rechazó públicamente la exigencia del Departamento de Defensa, lo que desencadenó una escalada en la que el secretario de Defensa amenazó con una lista negra de la cadena de suministro y el presidente ordenó a las agencias federales dejar de utilizar los servicios de Anthropic. La frase en el centro del conflicto —IA vs. el Pentágono: robots asesinos— enmarca ahora un debate nacional sobre lo que las empresas privadas pueden rechazar legal y éticamente cuando los compradores gubernamentales solicitan un acceso sin restricciones a modelos potentes.

IA vs. el Pentágono: robots asesinos y la exigencia de "cualquier uso lícito"

La disputa inmediata es contractual, pero las implicaciones son mucho más amplias. En enero, el Pentágono distribuyó términos actualizados que le permitirían usar productos de IA para “cualquier uso lícito”, un lenguaje que, según los funcionarios del Pentágono, tiene como objetivo evitar restricciones fragmentadas en muchos programas diferentes. Para Anthropic, los puntos de fricción eran explícitos: nada de vigilancia masiva doméstica de estadounidenses y nada de armas letales totalmente autónomas sin un humano en el bucle. Estos fueron presentados por la empresa como líneas rojas a nivel corporativo, fundamentadas en preocupaciones de seguridad y fiabilidad.

IA vs. el Pentágono: robots asesinos, vigilancia masiva y líneas rojas corporativas

La postura de Anthropic —al rechazar una licencia universal para “cualquier uso lícito”— es notable porque, según se informa, muchos competidores aceptaron el lenguaje del Pentágono. Esa divergencia ha convertido decisiones comerciales similares en opciones de política de facto: una empresa que dice que sí amplía efectivamente el conjunto de usos que el ejército puede perseguir con una negociación adicional mínima; una empresa que dice que no obliga al gobierno a buscar otros proveedores o a desarrollar la capacidad por sí mismo. Los trabajadores tecnológicos, los grupos de libertades civiles y los inversores están observando si estas líneas rojas corporativas se mantienen frente al poder financiero y político de los compradores de seguridad nacional.

Implicaciones técnicas y éticas de las armas autónomas

Cuando los periodistas, ingenieros y expertos en ética utilizan términos simplificados como “robots asesinos”, se refieren a sistemas que pueden seleccionar y aplicar fuerza letal sin un control humano significativo. Los problemas técnicos son persistentes: los errores de percepción, los falsos positivos adversarios, la incomprensión contextual y los fallos de software impredecibles pueden producir resultados catastróficos en combate. Los modelos de IA son procesadores de patrones estadísticos entrenados con datos; no son agentes morales ni tomadores de decisiones fiables en entornos ambiguos y de alto riesgo.

Los riesgos éticos van mucho más allá de los errores técnicos. La letalidad autónoma plantea interrogantes sobre la rendición de cuentas (¿quién es responsable cuando una máquina mata?), la escalada (¿cómo responden los adversarios al armamento automatizado?) y la discriminación (los sistemas mecánicos pueden replicar o amplificar sesgos que identifiquen erróneamente a civiles como combatientes). Muchos expertos en ética también advierten sobre la reducción del umbral político para entrar en conflicto si los ciclos de decisión se aceleran mediante la automatización. Por estas razones, algunos responsables políticos y defensores presionan para que se establezcan límites estrictos o prohibiciones a los sistemas que operan sin control humano, mientras que otros abogan por una I+D cuidadosamente restringida y requisitos sólidos de humano en el bucle hasta que se demuestre que los sistemas son seguros.

Derecho contractual, riesgo de la cadena de suministro y cómo el Pentágono regula la vigilancia impulsada por IA

El Pentágono regula el uso de tecnologías comerciales principalmente a través del lenguaje de contratación, las aprobaciones y la política de adquisiciones, no mediante un estatuto general que aborde específicamente los casos de uso de la IA. Cuando el departamento pide a los contratistas que acepten “cualquier uso lícito”, está aprovechando los términos del contrato para asegurar una autoridad amplia; ese lenguaje pretende evitar la repetición de negociaciones en muchas órdenes de trabajo y programas. Pero también plantea cuestiones constitucionales y estatutarias cuando lo “lícito” podría incluir la vigilancia doméstica vinculada a usos de inteligencia o de aplicación de la ley.

Calificar a un proveedor como “riesgo para la cadena de suministro” es una herramienta administrativa con consecuencias concretas: puede incitar a las agencias federales y a los grandes contratistas de defensa a alejarse de un proveedor y puede frenar las integraciones de terceros. La amenaza del Pentágono de utilizar la Ley de Producción de Defensa (Defense Production Act) o autoridades similares subraya que la ley de adquisiciones puede ser una palanca para forzar el cumplimiento, pero esas palancas están cargadas políticamente y pueden provocar litigios. Por lo tanto, quién establece las líneas rojas se convierte en territorio en disputa: una mezcla de política de empresa, memorandos internos del gobierno, supervisión del Congreso y, en ocasiones, revisión judicial.

¿Son los robots asesinos una amenaza real? Normas internacionales y límites actuales

El riesgo de que los sistemas autónomos se utilicen para la fuerza letal no es hipotético: los ejércitos están buscando activamente la automatización en los sistemas de detección, fijación de objetivos y ataque. Dicho esto, el mundo aún no ha convergido en una prohibición internacional vinculante sobre las armas letales totalmente autónomas. La Convención sobre Ciertas Armas Convencionales de las Naciones Unidas ha acogido años de debates sobre los sistemas de armas autónomas letales, pero hasta ahora estas conversaciones no han producido ningún tratado que prohíba tales sistemas. Las ONG, algunos estados y coaliciones de empresas tecnológicas presionan para que se establezcan límites internacionales estrictos; otros estados se resisten a las limitaciones de los tratados, buscando libertad operativa.

A nivel nacional, las combinaciones de políticas siguen fragmentadas: algunos países favorecen reglas estrictas de humano en el bucle, otros enfatizan la capacidad y la disuasión. La ausencia de un tratado universal significa que gran parte de la gobernanza actual está moldeada por los controles de exportación, las decisiones de compra y las políticas corporativas. Esa fragmentación es exactamente lo que hace que las líneas rojas de los proveedores y los contratos privados sean trascendentales: llenan un vacío regulatorio, pero pueden revertirse bajo presión.

Qué sigue y por qué es importante

Los próximos pasos inmediatos serán legales y políticos. Anthropic señaló que litigaría cualquier designación que perjudique su negocio; el Pentágono puede presionar a los contratistas y proveedores principales para que minimicen la dependencia de un proveedor que no cumple. El Congreso puede celebrar audiencias y varios grupos de interés público buscarán supervisión. En la práctica, los programas federales que ya utilizan los modelos de Anthropic necesitarán planes de transición si las agencias cumplen con la orden de cesar su uso, un proceso desordenado, costoso y potencialmente disruptivo.

Más allá de los tribunales y las partidas presupuestarias, el episodio obliga a plantear una pregunta más amplia: ¿debería permitirse a los proveedores comerciales de IA limitar contractualmente cómo los gobiernos utilizan su tecnología cuando los clientes de seguridad nacional argumentan una necesidad operativa? La respuesta dará forma a las guerras futuras, a la vigilancia policial doméstica y a la arquitectura de las asociaciones de seguridad público-privadas. Si el poder de mercado y la presión reputacional son ahora los principales frenos a los usos peligrosos, su durabilidad ante las urgentes demandas de defensa determinará si las sociedades democráticas pueden establecer salvaguardias significativas en torno a la IA.

El choque entre Anthropic y el Pentágono no es, por tanto, solo una disputa sobre los términos de una empresa y las prioridades de contratación de un gobierno; es un estudio de caso en vivo de cómo chocan la política, la tecnología y la ética cuando los sistemas de vanguardia se encuentran con el poder estatal. La forma en que las empresas, los tribunales y las legislaturas lo resuelvan afectará a si la próxima generación de IA militar estará limitada por el juicio humano y la supervisión democrática, o por cláusulas contractuales y exenciones de trastienda.

Fuentes

• Departamento de Defensa de EE. UU. (declaraciones públicas y memorandos de adquisición)
• Anthropic (declaraciones de prensa de la empresa)
• Casa Blanca (declaraciones públicas y dirección ejecutiva)
• Naciones Unidas — Informes y resúmenes de las reuniones de la Convención sobre Ciertas Armas Convencionales (CCW)