Cuando los investigadores fundaron Anthropic en 2021, dijeron que la carrera para crear una inteligencia artificial poderosa era demasiado imprudente. Incorporaron elaboradas medidas de seguridad a sus productos y promocionaron su compromiso con la seguridad como una cualidad corporativa que los diferenciaba de sus competidores, especialmente OpenAI, la empresa rival que abandonaron. En marzo de 2026, esa reputación se puso a prueba cuando la administración Trump declaró a Antropic un riesgo para la cadena de suministro.
La empresa se negó a eliminar las salvaguardias incorporadas que prohibían la vigilancia nacional y las armas autónomas de los productos que suministraba al Pentágono. El presidente Donald Trump ha ordenado al gobierno federal que deje de utilizar Anthropic y su modelo de lenguaje grande, Claude, calificando a la empresa como un riesgo para la seguridad nacional. En cuestión de horas, OpenAI llegó a un acuerdo para ser el proveedor del Pentágono.
A pesar de la aparente postura de Anthropic, durante el conflicto con Trump, la compañía descartó silenciosamente los principios vinculantes de su política de seguridad central. Unas semanas antes, el jefe de investigación de salvaguardias de Anthropic renunció y advirtió que “el mundo está en riesgo”. Y una semana después de que el Pentágono prohibiera oficialmente a Claude, el ejército estadounidense todavía estaba usando la tecnología para seleccionar y apuntar a sitios de bombardeo en Irán.
Como filósofo que estudia el Estado de derecho y la democracia, he descubierto que la gobernanza autoritaria de la tecnología a menudo no implica censura directa. Más bien, deslegitima la protección pretendida, envenenando cualquier regulación externa e incluso la autorregulación voluntaria que se desvíe de los objetivos o valores del régimen.
La administración Trump, que sigue un manual autoritario, sostiene que los estándares de seguridad de la IA y las restricciones a los usuarios son imposiciones ideológicas, no decisiones de ingeniería acertadas. La orden ejecutiva para prevenir el despertar de la IA del 23 de julio de 2025 no cambió lo que las empresas pueden hacer con sus productos. Al poner la etiqueta de “despertar” a las protecciones éticas básicas, la administración ha hecho que mantener esas protecciones sea políticamente costoso.
El Centro Brennan, una organización de defensa y política legal, ha documentado cómo se está redefiniendo la ética de la IA a través de negociaciones contractuales. En estos casos, el gobierno utiliza términos como “sesgado” para descalificar a las empresas que mantienen protecciones de derechos civiles para participar en licitaciones en contratos federales.
El dilema del prisionero
Un solo contrato de IA del Departamento de Defensa de EE. UU. puede valer miles de millones de dólares. También puede proporcionar acceso a datos que de otro modo ninguna empresa privada tendría y desbloquear más trabajo gubernamental. Las empresas que mantienen coberturas éticas corren el riesgo de ceder terreno a competidores que no lo hacen.
Cuando OpenAI decidió hacerse cargo del puesto en el Pentágono, el director ejecutivo Sam Altman le dijo a su junta directiva que la medida parecía “oportunista y descuidada”. Pero dijo que la compañía lo aceptó de todos modos, porque reconocer que una acción luce mal es diferente a estar dispuesto a quedarse atrás.
El presidente Donald Trump y el director ejecutivo de OpenAI, Sam Altman, hablan durante una conferencia de prensa el 21 de enero de 2025, durante la cual Trump anunció inversiones en infraestructura de inteligencia artificial. Andrew Harnick/Getty Images
Esta situación refleja el clásico dilema del prisionero. Si Anthropic mantiene las disposiciones de seguridad y OpenAI las elimina, OpenAI obtiene los contratos y la ventaja futura. Si ambas empresas respetan las disposiciones, la protección digital podría sobrevivir. Pero como ninguna de las empresas puede estar segura de que la otra mantendrá su posición (y como marcharse no es una buena opción), la opción racional es deshacerse de las medidas de seguridad.
Estas circunstancias difieren de la carrera estándar del mercado hacia el abismo en un aspecto clave: el peligro de tener que quitar las barreras no es un accidente de la competencia; El gobierno lo mantiene a través de incentivos.
Palantir no esperó a quedar atrapado en esta trampa. La empresa de análisis de datos fue fundada por Peter Thiel y dirigida por Alex Karp, quien durante años condenó el “despertar” de Silicon Valley. Palantir construyó su modelo de negocio en torno a la vigilancia gubernamental y la infraestructura de datos militares. Si bien Palantir ha dicho que está comprometida con la privacidad y las libertades civiles, los críticos afirman que la empresa está revocando esas protecciones. Las acciones de la compañía se han disparado bajo la administración Trump, sus contratos se han ampliado y ahora tiene un asiento de primera fila donde se redacta la política de IA. Palantir resolvió el dilema del prisionero siendo el primero en desertar.
Es importante señalar que la disolución de los equipos de seguridad en toda la industria, como el equipo Superalignment de OpenAI y la unidad de ética de Microsoft, no es el resultado de que nadie decida abandonar la seguridad. Lo que veo al analizar las acciones de varias empresas es un patrón: una acumulación de compromisos colectivos incrementales que silenciosamente cambian la definición de seguridad del público al Estado. Los daños y riesgos resultantes recaen sobre todas aquellas personas cuyas vidas están determinadas por sistemas de inteligencia artificial.
Redefinir la seguridad para servir al gobierno
En todos los contratos gubernamentales y documentos de políticas, también he notado que la definición original de seguridad relacionada con la IA ha pasado de proteger al público a crear sistemas controlados por el estado. El marco “antivigilantes” acelera este cambio: cuando los requisitos éticos se caracterizan como ideológicos más que técnicos, su eliminación puede enmarcarse no como una reducción de la seguridad sino como una corrección.
Este cambio no requiere malicia por parte de las empresas. Los equipos de seguridad continúan trabajando con rigor. Las empresas no mienten cuando describen sus compromisos de seguridad. Esas obligaciones ahora están simplemente orientadas al gobierno, no al público.
El argumento a favor de una regulación más estricta de la IA supone que el gobierno restringe las entidades comerciales en nombre del público. Pero poner a la empresa en la lista negra para mantener la protección de los derechos civiles y luego prohibir el despliegue militar de su inteligencia artificial horas después muestra que el gobierno federal en este caso está permitiendo el daño que se supone que la regulación debe prevenir.
Ampliar los poderes regulatorios sobre las empresas de IA no necesariamente protege a los ciudadanos. Las regulaciones de seguridad -destinadas a limitar el poder de las corporaciones- en los regímenes autoritarios se convierten en una herramienta para obligar a su cumplimiento.
Descubre más desde USA Today
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Spanish 