Por: Abel Hibert
Anthropic constituye un buen caso de estudio sobre qué debe prevalecer en la toma de decisiones del Consejo de Administración de una empresa: los valores fundacionales de la empresa o ceder a presiones externas, aunque estas vayan en contra de sus principios.
Es el caso de la empresa de inteligencia artificial (IA) Anthropic y la presión que está recibiendo por parte del presidente Trump y del secretario del Departamento de Defensa (ahora denominado Departamento de Guerra), Pete Hegseth. El punto de conflicto es que
Hegseth exige a Anthropic que el uso de su asistente de IA, denominado Claude, no esté sujeto a restricciones, de modo que el Departamento de Guerra pueda utilizarlo con fines militares; de lo contrario, podría enfrentar severas penalizaciones por parte del gobierno estadounidense1. Entre las peticiones del Pentágono están: 1) poder vigilar de manera masiva a ciudadanos estadounidenses y, 2) el uso pleno de la IA para el armamento autónomo.
En su nueva Constitución, publicada el pasado 22 de enero de 2026, Anthropic establece los siguientes principios2:
Seguridad general: no debilitar ni socavar los mecanismos humanos adecuados para supervisar la inteligencia artificial en la fase actual de su desarrollo.
Ética general: actuar con honestidad, conforme a valores sólidos y evitar conductas inapropiadas, peligrosas o perjudiciales.
Cumplimiento de las directrices de Anthropic: actuar de acuerdo con las directrices específicas establecidas por Anthropic, cuando resulte pertinente.
Utilidad genuina: generar beneficios reales para los operadores y usuarios con quienes interactúan.
En caso de que exista un conflicto aparente entre estos principios, Claude deberá, por lo general, priorizarlos en el orden en que se presentan.
En la página WEB de Anthropic se establece como misión: “La inteligencia artificial ejercerá un impacto profundo y de amplio alcance a escala global. Anthropic es una corporación de beneficio público comprometida con maximizar los beneficios derivados de esta tecnología y con mitigar de manera responsable los riesgos asociados a su desarrollo y uso” (el resaltado es del autor)3.
Lo que está pidiendo el secretario Hegseth va en contra de los principios de Anthropic, y la empresa y su director general, Dario Amodei, explican y fundamentan su negativa a seguir las directrices del Pentágono.
En una declaración pública de Dario Amodei4, el director general dice: “Creo profundamente en la importancia existencial de utilizar IA para defender a los Estados Unidos y otras democracias, y vencer a nuestros adversarios autocráticos”. En el mismo comunicado, Amodei establece que “Anthropic reconoce que es el Departamento de Guerra, y no las empresas privadas, quien toma las decisiones de carácter militar. En ningún momento hemos planteado objeciones a operaciones militares específicas ni hemos intentado limitar el uso de nuestra tecnología de manera ad hoc.
No obstante, en un conjunto limitado de casos, consideramos que la inteligencia artificial puede socavar, en lugar de defender, los valores democráticos. Asimismo, ciertos usos sitúan claramente fuera de los límites de lo que la tecnología actual puede realizar de forma segura y fiable. Dos de estos casos de uso nunca han sido incluidos en nuestros contratos con el Departamento de Guerra, y consideramos que no deberían incorporarse en la actualidad”.
Estos casos son:
Vigilancia masiva de la población civil, la cual aseguran, y estoy totalmente de acuerdo, es incompatible con los valores democráticos y representa un serio riesgo nuevo para “nuestras libertades fundamentales”.
Armas totalmente autónomas, que deben contar con la supervisión humana adecuada, dado que hoy en día “los sistemas de inteligencia artificial de frontera simplemente no son lo suficientemente fiables como para sustentar armas totalmente autónomas”.
Anthropic y su director general están conscientes de los riesgos del uso de la IA, los cuales diversos autores y desarrolladores de IA han señalado como un grave riesgo para la humanidad, que deben ser abordados y mitigados, como se establece en la misión de la empresa.
Yuval Noah Harari comenta: “Dada la magnitud del peligro, la IA debería ser un tema de interés para todos los humanos. Aunque no todos podemos ser expertos en IA, sí debemos tener presente que es la primera tecnología de la historia capaz de tomar decisiones y generar nuevas ideas por sí misma. Todo invento humano previo ha servido para conferir poder a los humanos porque, con independencia del alcance que tuviera la nueva herramienta, las decisiones sobre su uso se han mantenido en nuestras manos. Los cuchillos y las bombas no deciden por sí mismos a quién matar. Son instrumentos sin criterio que carecen de la inteligencia necesaria para procesar información y tomar
decisiones independientes. En cambio, la IA puede procesar información por sí sola y, por lo tanto, sustituir a los humanos en la toma de decisiones. La IA no es una herramienta, es un agente”5
Esto coincide con la preocupación de Amodei respecto al uso de armas autónomas. Mustafa Suleymen, cofundador de DeepMind e Inflection AI, apunta que uno de los retos inevitables de la tecnología es que sus creadores pierden rápidamente el control sobre la ruta que sus inventos toman, una vez que son introducidos al mundo. Y recuerda el caso de Alfred Nobel, que inventó la dinamita para su uso en la minería y en la construcción de ferrocarriles6.
Con relación a la vigilancia de los ciudadanos a través de la IA por parte del gobierno, es una clara violación a los derechos humanos y puede ser utilizado para perseguir ciudadanos que se oponen a las medidas políticas gubernamentales o ampliar la vigilancia para extraditar más inmigrantes. Levitsky y Ziblatt7 advierten de los riesgos “a la predisposición a restringir libertades civiles de la oposición, incluidos los medios de comunicación”. Un estudio del MIT Media Lab señaló el sesgo que presentan los distintos
servicios de IA al realizar reconocimiento facial8. Inclusive, gobiernos que podrían definirse como totalitarios, como el de la República Popular de China, han emitido normativas en las que afirman que no se debe imponer el reconocimiento facial a las
personas9.
El premio Nobel de Economía 2024, Daron Acemoglu, afirma que “la vigilancia masiva es ilegal conforme a la legislación estadounidense, y los sistemas de armas autónomas no constituyen una posibilidad viable en el corto plazo”. Esta acción también tendrá consecuencias de gran magnitud, posiblemente de mayor alcance que el ataque a Irán. Con independencia de lo que se piense sobre las capacidades actuales de la inteligencia
artificial, existe poca duda de que quien controle la IA tendrá implicaciones trascendentales para la democracia, los negocios, la comunicación y la privacidad”.
La negativa de Amodei y Anthropic a seguir los lineamientos del Pentágono en estos temas puede acarrear consecuencias económicas directas para la empresa.
El secretario Hegseth intenta designar a Anthropic como un “riesgo para la cadena de valor”, una designación reservada a empresas consideradas adversarias de los Estados Unidos, como Huawei, proveedor de equipos de telecomunicaciones. Estad eclaratoria nunca había sido utilizada contra ninguna empresa norteamericana y constituye un grave precedente contra cualquier empresa privada que quiera negociar con el gobierno
norteamericano.
Una manera de arrinconar a Anthropic es presionar a empresas privadas que contratan sus servicios de IA para que dejen de hacerlo. En el comunicado de prensa emitido por la empresa explican que, legalmente, esta designación puede afectar los contratos con el Departamento de Guerra, pero no puede afectar al resto de sus clientes.
A pesar de las amenazas del gobierno, afirma Anthropic que “ninguna intimidación o castigo del Departamento de Guerra cambiará nuestra posición sobre la vigilancia masiva de los ciudadanos norteamericanos o del pleno uso de armas autónomas. Desafiarán cualquier designación como riesgo a la cadena de suministros en las cortes”.
Por su parte, su mayor competidor, Open IA, y su director general, Sam Altamn, aceptaron hacer el acuerdo con el Departamento de Guerra pero siguieron dejando fuera las dos líneas rojas que había planteado Anthropic: sin vigilancia masiva ni armas autónomas. El
Pentágono castigó a una empresa por exigir protecciones que después le concedió a otra.
Si usted hubiera formado parte del Consejo de Administración de Anthropic, ¿se habría mantenido fiel a los principios éticos que la compañía pregonaba y habría apoyado la decisión del director general, consciente de que le iba a costar mucho dinero a la empresa? ¿O habría votado a favor de ceder a las presiones del gobierno, consciente de que ello contraviene los principios éticos de la empresa?
En lo particular, aplaudo el coraje de Dario Amodei y de Anthropic al defender su postura ética ante los riesgos y peligros documentados del uso irracional de la IA. Pienso que, a largo plazo, la reputación de Anthropic les redituará lo que, en el corto plazo, les pudiera afectar al mantenerse firmes en sus principios. Como dice la paradoja de la prosperidad de Ben Ansell10: “lo que a corto plazo nos enriquece, a largo plazo nos empobrece”.
