Pentágono considera romper con Anthropic por restricciones de IA

El Pentágono está considerando romper relaciones con la Anthropic debido a restricciones de seguridad impuestas por la startup en sus soluciones de inteligencia artificial (IA). Estas salvaguardas, que impiden el uso del chatbot Claude para vigilancia masiva y desarrollo de armas autónomas, han generado insatisfacción en el Departamento de Defensa de los Estados Unidos, según reveló Axios el 16 de octubre.

Claude es el único modelo de IA autorizado para operar en sistemas confidenciales de las Fuerzas Armadas de EE.UU. Sin embargo, las políticas de Anthropic, que prohíben el uso de la IA para ciertos fines, están en desacuerdo con los intereses militares. La empresa está dispuesta a negociar algunos términos, pero se niega a eliminar todas las restricciones, lo que ha generado una crisis con el Pentágono.

Ante este estancamiento, las autoridades de defensa de EE.UU. están explorando alternativas, como Google, OpenAI y xAI, que puedan proporcionar sus IAs para todos los fines lícitos. A pesar de esto, un alto funcionario del gobierno advirtió que las IAs competidoras aún no igualan a Claude en capacidades específicas.

El Secretario de Defensa de EE.UU., Pete Hegseth, advirtió que Anthropic podría ser clasificada como un "riesgo para la cadena de suministro" si se rompe el acuerdo, lo que afectaría sus negocios con terceros vinculados a las Fuerzas Armadas. Anthropic, por su parte, mantiene conversaciones con el Departamento de Defensa, insistiendo en su compromiso con el uso seguro de la tecnología.

La situación entre el Pentágono y Anthropic destaca el conflicto entre seguridad y flexibilidad en el uso de IA para fines militares. La búsqueda de un equilibrio que satisfaga a ambas partes sigue siendo un desafío significativo.