Redacción MBA
Anthropic publicó una declaración firmada por su CEO, Dario Amodei, en la que detalla el conflicto abierto con el Departamento de Guerra de Estados Unidos por el uso militar de sus modelos de IA, en particular Claude. El texto revela hasta dónde está dispuesta a ceder la compañía en contratos de defensa y dónde traza líneas rojas éticas y técnicas, en un contexto geopolítico marcado por la presión para acelerar la militarización de la inteligencia artificial.
Anthropic recuerda que fue el primer laboratorio de frontera en desplegar modelos de IA en redes clasificadas del gobierno estadounidense, en laboratorios nacionales y en agencias de seguridad. Claude hoy se usa en tareas de análisis de inteligencia, modelado y simulación, planeamiento operativo y operaciones cibernéticas, entre otras funciones consideradas “críticas para la misión”.
La empresa subraya que ha asumido costos económicos relevantes para alinearse con la estrategia de Washington frente a sus rivales geopolíticos, especialmente China. Entre esas decisiones menciona haber renunciado a “varios cientos de millones de dólares” al cortar el uso de Claude por compañías vinculadas al Partido Comunista Chino, interrumpir ciberataques patrocinados por Pekín que intentaban abusar del modelo y defender controles estrictos de exportación de chips avanzados para preservar la ventaja tecnológica de las democracias.
Al mismo tiempo, Amodei insiste en que Anthropic “entiende” que las decisiones militares las toma el Departamento de Guerra, no las empresas privadas, y que nunca objetó operaciones específicas ni trató de intervenir caso por caso en el uso táctico de su tecnología. El conflicto actual, sostiene, no es sobre misiones concretas sino sobre dos categorías de uso que considera incompatibles con valores democráticos y con el estado actual de la tecnología.
En su declaración, Anthropic explicita dos casos de uso que nunca estuvieron en sus contratos con el Departamento de Guerra y que no piensa habilitar ahora: la vigilancia masiva doméstica y las armas totalmente autónomas sin humanos en el circuito.
Amodei distingue entre el uso de IA para misiones de inteligencia y contrainteligencia en el exterior —que la empresa apoya, siempre que sea “legal”— y la vigilancia masiva dentro de EE.UU. Según el texto, usar sistemas como Claude para rastrear a la población a gran escala “es incompatible con los valores democráticos” y abre riesgos inéditos para las libertades fundamentales.
Anthropic señala un vacío normativo: hoy el gobierno puede comprar datos extremadamente sensibles —movimientos, historial de navegación, redes de contacto— recolectados por intermediarios comerciales sin orden judicial. Lo que hasta ahora eran fragmentos “inocuos” de información dispersa, con una IA potente pueden fusionarse en un retrato detallado de la vida de cualquier persona, de forma automática y a escala masiva.
La compañía remarca que la legalidad formal no basta como criterio de legitimidad cuando la tecnología se mueve más rápido que la regulación. Ese es el núcleo de su objeción: el uso de IA para consolidar y amplificar prácticas de vigilancia que el propio Congreso y la comunidad de inteligencia ya reconocen como problemáticas, pero aún no limitadas por ley.
El segundo límite se refiere a las armas “fully autonomous”, aquellas que seleccionan y atacan objetivos sin intervención humana en la decisión final. Anthropic reconoce que armas parcialmente autónomas —como muchas de las que se ven hoy en Ucrania— son “vitales” para la defensa de las democracias, y admite que incluso sistemas totalmente autónomos podrían volverse críticos a futuro.
Sin embargo, sostiene que los modelos de IA de frontera actuales “no son lo suficientemente confiables” para alimentar armas que operen sin humanos en el circuito. Desde la perspectiva de la empresa, entregar un sistema de este tipo sería “poner en riesgo” tanto a soldados estadounidenses como a civiles, en un campo donde un error de percepción, clasificación o interpretación puede traducirse en víctimas.
Además del problema de confiabilidad técnica, la compañía advierte que las armas totalmente autónomas carecen de la capacidad de juicio contextual que ejercen los militares profesionales. Sin marcos de supervisión y “guardrails” robustos —que, afirma, hoy “no existen”—, no hay forma de garantizar que estas armas respeten el derecho internacional humanitario ni los estándares de proporcionalidad y distinción entre combatientes y no combatientes.
Anthropic afirma haber ofrecido trabajar con el Departamento de Guerra en I+D para mejorar la fiabilidad de sistemas autónomos, pero sostiene que esa propuesta fue rechazada. En otras palabras, la empresa se declara dispuesta a colaborar en el diseño de tecnología más segura, pero no a habilitar su despliegue operacional inmediato sin las salvaguardas adecuadas.
El texto de Amodei afirma que el Departamento de Guerra ha fijado una posición tajante: solo contratará con empresas de IA que acepten “cualquier uso legal” de sus sistemas, sin excepciones para vigilancia masiva doméstica ni armas totalmente autónomas. Esa cláusula, según distintas filtraciones, se ha convertido en el nuevo estándar que el Pentágono busca incorporar de forma sistemática en sus contratos con proveedores de inteligencia artificial.
Según la declaración, las amenazas en la mesa son tres. Primero, retirar a Anthropic de todos los sistemas del Departamento, rompiendo contratos vigentes y reemplazando Claude por otros modelos en aplicaciones militares sensibles. Segundo, designar a la empresa como “riesgo de cadena de suministro”, una etiqueta utilizada hasta ahora para adversarios extranjeros, que obligaría a otros contratistas a dejar de trabajar con Anthropic en proyectos de defensa.
Tercero, invocar la Ley de Producción de Defensa (Defense Production Act) para forzar a la compañía a eliminar las salvaguardas y cumplir con los requerimientos del Departamento. Para Amodei, las dos últimas medidas contienen una contradicción de fondo: una etiqueta a Anthropic como riesgo de seguridad nacional, la otra la declara esencial para esa misma seguridad.
Pese a la presión, la compañía afirma que “no puede en buena conciencia” aceptar las exigencias del Pentágono. El comunicado insiste en que el Departamento tiene derecho a elegir proveedores alineados con su visión estratégica, pero subraya que la tecnología de Anthropic aporta un valor considerable a las fuerzas armadas y que, por eso, espera que la decisión sea revisada.
La empresa asegura que su “fuerte preferencia” sigue siendo continuar al servicio del Departamento y de los “warfighters” estadounidenses, siempre con las dos salvaguardas en pie. Si el Pentágono decide prescindir de Claude, se compromete a cooperar para una transición ordenada hacia otro proveedor, minimizando la disrupción en operaciones, planificación y misiones críticas.
En paralelo, Anthropic reafirma que sus modelos seguirán disponibles en términos “amplios” para defensa, mientras se respeten las restricciones sobre vigilancia masiva doméstica y armas totalmente autónomas. Ese mensaje busca dejar claro que no se trata de una ruptura general con el sector militar, sino de un desacuerdo sobre el alcance aceptable de la automatización bélica y del poder de vigilancia del Estado.
El choque público entre una de las principales firmas de IA de frontera y el Departamento de Guerra sienta un precedente para toda la industria. La exigencia oficial de aceptar “cualquier uso legal” de la IA militariza el debate sobre responsabilidad corporativa y traslada a las empresas una decisión que hasta ahora algunos actores habían tratado de resolver con códigos de conducta internos y cláusulas de uso aceptable.
Para Washington, la prioridad declarada es no ceder terreno frente a potencias autoritarias que no comparten los mismos escrúpulos. Para Anthropic, la cuestión es si una empresa que se define por su enfoque en seguridad y “Responsible AI” puede, sin traicionarse, habilitar dos usos que considera intrínsecamente corrosivos para la democracia y peligrosos, incluso desde un punto de vista estrictamente técnico.
