La tecnología que podría quebrar la democracia de EE. UU.

El momento: por qué "american democracy know might" es importante ahora

El 9 de marzo, el titular de un pódcast popular introdujo en la conversación pública una frase destinada a impactar: "american democracy know might". Funcionaba como una abreviatura de una nueva y urgente ansiedad: que un conjunto de tecnologías creadas para automatizar el habla, las imágenes y la toma de decisiones avanzan más rápido que las instituciones que mantienen honesta la vida cívica. El episodio contó con la participación de Dean Ball, un escritor tecnológico que el año pasado se desempeñó como asesor principal de políticas de IA en la Casa Blanca, y utilizó un enfrentamiento reciente entre compradores del sector de defensa de EE. UU. y laboratorios privados de IA como escena de apertura.

Las disputas contractuales entre el Pentágono y destacados laboratorios, junto con la decisión del departamento de designar a un proveedor como "riesgo para la cadena de suministro", han provocado reacciones en contra dentro y fuera del gobierno. Para quienes se preocupan por las normas democráticas, la historia tiene dos vertientes vinculadas: la capacidad de actores poderosos para fabricar o inundar el entorno informativo con contenido falso convincente, y la capacidad del Estado para doblegar a empresas privadas mediante el uso de etiquetas de seguridad nacional y el apalancamiento de las contrataciones. Ambas tendencias, según dijeron oyentes y expertos al programa, señalan lo frágiles que se han vuelto los hechos compartidos que sustentan la elección democrática.

american democracy know might — el estancamiento de Anthropic y lo que revela la presión estatal

La disputa sobre el papel de un importante laboratorio de IA en los contratos gubernamentales es un ejemplo instructivo. Las negociaciones entre un cliente de defensa y un laboratorio de investigación líder se rompieron recientemente, y los funcionarios calificaron al laboratorio como un riesgo para la cadena de suministro, una clasificación normalmente reservada para empresas extranjeras sospechosas de espionaje. La medida despertó la alarma entre los expertos en políticas que consideran tal etiqueta como equivalente a una amenaza gubernamental: acepten nuestros términos o pierdan el acceso a contratos y socios. Como dijo Dean Ball en el pódcast, esa dinámica puede sentirse como un alcance casi tiránico del Estado en la empresa privada.

¿Por qué importa esto para la democracia? Porque cuando los gobiernos pueden marginar selectivamente a una empresa, cuando las designaciones regulatorias pueden aplicarse con fuerza discrecional política, los guardianes comerciales pueden convertirse en instrumentos de facto del poder político. Esto es doblemente cierto en mercados altamente concentrados: un puñado de laboratorios y fabricantes de chips suministran la mayor parte del cómputo, los modelos y el alojamiento que la IA moderna necesita. Cuando la presión en las contrataciones, los controles de exportación o las sanciones informales se ejercen sin salvaguardas claras y duraderas y sin una supervisión independiente, cambian los incentivos para las empresas y las opciones disponibles tanto para ciudadanos como para políticos.

Esos incentivos importan. Si la política presiona a los laboratorios para ocultar salvaguardas o acelerar los lanzamientos para mantener el negocio gubernamental, o si, por el contrario, las empresas abandonan las protecciones de interés público para retener a clientes comerciales, la capacidad de la democracia para arbitrar conflictos políticos sobre la base de evidencias compartidas se degrada. Esto no es algo hipotético; ocurre hoy en las salas de juntas y dentro de las oficinas de adquisiciones, y define quién escribe las reglas y quién se beneficia de ellas.

american democracy know might — desinformación, deepfakes y la prueba de Minnesota

Al mismo tiempo, el ecosistema de información está siendo puesto a prueba en un frente diferente: la veracidad. A principios de este año, la evidencia en video de incidentes violentos que involucraban a agentes federales en una ciudad de EE. UU. generó una reacción nacional porque las imágenes estaban claramente en desacuerdo con las descripciones oficiales. Ese episodio —en el que grabaciones ampliamente difundidas ayudaron a refutar las afirmaciones del gobierno— mostró el poder estabilizador de la evidencia clara y compartida. Pero también resaltó la fragilidad de ese estabilizador.

¿Por qué frágil? Porque los mismos sistemas de aprendizaje automático ahora permiten producir de manera barata y rápida videos, audios e imágenes sintéticos que se ven y suenan auténticos. Los investigadores han advertido sobre "enjambres de desinformación" coordinados y basados en IA, capaces de saturar las plataformas sociales con muchas narrativas falsas sutilmente diferentes, desbordando los procesos normales de verificación. Si los incidentes futuros no van acompañados de un único clip inequívoco, sino de docenas de versiones plausibles pero conflictivas, el público puede concluir que la verdad es incognoscible y ceder el juicio a cualquier fuente de autoridad en la que más confíe; exactamente el modo de falla al que aspiran los actores autoritarios.

Una economía de la narrativa: hype de la IA, burbujas y riesgo político

Esa economía de la narrativa crea efectos secundarios políticos. Las empresas sobrevaloradas y los fundadores célebres acaparan una atención desmedida; las adquisiciones y los cambios en la propiedad de los medios concentran el control de la distribución y el poder editorial. Cuando las empresas que prometen impulsar el discurso público del mañana están en manos de oligarcas alineados políticamente, o cuando un solo fabricante de chips representa una parte significativa de los índices de mercado, las vacilaciones en los mercados de capitales privados pueden repercutir en las instituciones cívicas. Y en una crisis, aquellos con control sobre la distribución y el cómputo pueden moldear qué narrativas sobreviven y cuáles mueren.

Palancas políticas y salvaguardas tecnológicas

Nada de esto es inevitable. Existen pasos concretos que pueden reducir el riesgo de que la tecnología supere a la democracia. Las medidas técnicas incluyen sistemas robustos de procedencia —firmas criptográficas, metadatos de contenido rastreables y marcas de agua forenses para medios sintéticos— de modo que las fotos, videos y resultados de modelos lleven información de origen verificable. Los estándares de procedencia necesitan coordinación internacional y verificación independiente para ser efectivos.

Las medidas regulatorias y cívicas también importan. Se debería exigir a las plataformas que revelen los incentivos algorítmicos y proporcionen informes de transparencia sobre la amplificación de contenido, especialmente en torno a las elecciones. Las autoridades de adquisiciones y seguridad nacional deben adoptar reglas públicas y claras cuando etiqueten a empresas o restrinjan el acceso, y esas acciones deben estar sujetas a supervisión judicial o del Congreso para evitar la coerción politizada. La inversión en el periodismo local y en la infraestructura pública de verificación —financiada y protegida legalmente contra la captura institucional— fortalecerá la base social de hechos verificables.

Finalmente, la resiliencia es tanto social como técnica. Las campañas de alfabetización mediática, una mejor financiación para las operaciones de verificación de hechos, reglas para limitar los anuncios políticos microsegmentados y acuerdos bipartidistas sobre la conducta digital durante las elecciones pueden mitigar los efectos de la manipulación algorítmica. Construir estos sistemas requerirá la cooperación intersectorial entre gobiernos, organismos de normalización, instituciones de investigación y la sociedad civil, además de una atención urgente, porque las tecnologías involucradas continúan acelerándose.

Hacia dónde nos dirigimos

La tecnología siempre ha alterado el equilibrio entre el poder privado y la responsabilidad pública. El momento actual es distintivo porque convergen tres fuerzas poderosas: IA generativa que puede fabricar evidencia convincente, plataformas que pueden amplificar y segmentar contenido a escala, y actores políticos dispuestos a instrumentalizar tanto las narrativas como las palancas institucionales. Esa combinación es la razón por la que se habla de "american democracy know might": es una abreviatura de la colisión entre el rápido cambio tecnológico y los mecanismos de reparación democrática, más lentos y débiles.

Pero hay razones para un optimismo decidido: las mismas herramientas que facilitan el engaño también pueden aprovecharse para la verificación; las instituciones que pueden ser capturadas también pueden ser reformadas y defendidas. La elección es política y técnica, y se decidirá en las salas de juntas, los tribunales y los parlamentos tanto como en los laboratorios de investigación. El trabajo más importante de la próxima década será construir la infraestructura pública y las salvaguardas legales que hagan que erosionar el terreno común que la democracia necesita resulte costoso, visible y riesgoso.

Fuentes

• Science (artículo de investigación sobre enjambres de desinformación impulsados por IA)
• Pew Research Center (análisis de la energía e infraestructura de los centros de datos)
• Deutsche Bank (informe sobre riesgos y correcciones del mercado de IA)
• MIT Sloan (análisis y comentarios sobre las narrativas de la industria de la IA)
• Bank of England (informe técnico sobre vulnerabilidades del mercado)