Dario Amodei, de Anthropic, busca un contrato de defensa con el Pentágono

El contrato de 200 millones de dólares entre Anthropic y el Departamento de Defensa (DoD) se rompió la semana pasada después de que las partes no pudieran ponerse de acuerdo sobre el alcance del acceso sin restricciones del ejército a la IA de Anthropic.
Cuando el DoD llegó a un acuerdo con OpenAI, parecía que la relación del ejército con Anthropic había terminado, pero nuevos informes del Financial Times y Bloomberg indican que Amodei ha reanudado las negociaciones con el funcionario del Pentágono Emil Michael.
Según se informa, estas conversaciones tienen como objetivo alcanzar un compromiso sobre un contrato que defina cómo el Pentágono puede seguir utilizando los modelos de IA de Anthropic.
Sería sorprendente que Anthropic consiguiera un nuevo acuerdo, teniendo en cuenta los duros intercambios entre las partes. Aun así, un compromiso podría beneficiar a ambas partes: el Pentágono ya depende de la tecnología de Anthropic y un cambio brusco a los sistemas de OpenAI sería perjudicial.
El desacuerdo comenzó cuando el director ejecutivo de Anthropic, Dario Amodei, expresó su preocupación por una cláusula que permitía al ejército utilizar la IA de Anthropic para cualquier fin legal. Amodei insistió en que la empresa no permitiría que su tecnología se utilizara para la vigilancia masiva interna o para armas autónomas, y quería que el contrato prohibiera explícitamente dichos usos. Después de que Anthropic se negara a cumplir, el departamento recurrió a OpenAI.
Desde entonces, personas de ambos bandos han expresado abiertamente su frustración. Michael calificó a Amodei de «mentiroso» con «complejo de Dios». Amodei, en un mensaje que, según se informa, envió al personal de Anthropic esta semana, criticó al Departamento de Defensa y al director ejecutivo de OpenAI, Sam Altman, refiriéndose al acuerdo con OpenAI como «teatro de seguridad» y a los mensajes que lo rodeaban como «mentiras descaradas».
«La razón principal por la que [OpenAI] aceptó [el acuerdo del Departamento de Defensa] y nosotros no es que ellos se preocupaban por apaciguar a los empleados, y nosotros nos preocupábamos por prevenir los abusos», escribió Amodei en el memorándum.
El secretario de Defensa, Pete Hegseth, se ha comprometido a designar a Anthropic como «riesgo para la cadena de suministro», lo que supone, en la práctica, incluir a la empresa en una lista negra que le impide trabajar con cualquier otra empresa que haga negocios con el ejército estadounidense, aunque aún no ha emprendido acciones legales para hacer cumplir esta medida. Este tipo de designación suele reservarse para adversarios extranjeros, y no está claro si se mantendría en los tribunales.
Artículo relacionado
Barry Diller: La confianza en Sam Altman es irrelevante a medida que se acerca la IA general
Barry Diller, el multimillonario magnate de los medios de comunicación, no cree que Sam Altman, director ejecutivo de OpenAI, sea poco digno de confianza, a pesar de los recientes informes que sugiere
La duración del contrato de alquiler de SpaceX por parte de Anthropic divide opiniones
A principios de este mes, xAI cerró un importante acuerdo de recursos informáticos con Anthropic, comprometiéndose a pagar miles de millones al mes a cambio de acceso exclusivo al clúster Colossus. El
Mythos, de Anthropic, redefine el enfoque de Firefox en materia de ciberseguridad
Cuando Anthropic presentó su modelo Mythos en abril, la empresa también lanzó una severa advertencia a los desarrolladores de software. Según el laboratorio, el modelo demostró ser tan eficaz a la hor
Recomendaciones de temas especiales relacionados
comentario (1)
0/500
Cette info me donne un peu froid dans le dos... La collaboration entre l'armée et l'IA, surtout sans garde-fous clairs, c'est un terrain glissant. Anthropic a l'air de vouloir poser des limites, c'est une bonne chose en soi. Mais au final, c'est OpenAI qui récupère le contrat ? Ça ressemble à une course à l'armement technologique entre géants de l'IA. Où est la réflexion éthique collective ? 🤔

El contrato de 200 millones de dólares entre Anthropic y el Departamento de Defensa (DoD) se rompió la semana pasada después de que las partes no pudieran ponerse de acuerdo sobre el alcance del acceso sin restricciones del ejército a la IA de Anthropic.
Cuando el DoD llegó a un acuerdo con OpenAI, parecía que la relación del ejército con Anthropic había terminado, pero nuevos informes del Financial Times y Bloomberg indican que Amodei ha reanudado las negociaciones con el funcionario del Pentágono Emil Michael.
Según se informa, estas conversaciones tienen como objetivo alcanzar un compromiso sobre un contrato que defina cómo el Pentágono puede seguir utilizando los modelos de IA de Anthropic.
Sería sorprendente que Anthropic consiguiera un nuevo acuerdo, teniendo en cuenta los duros intercambios entre las partes. Aun así, un compromiso podría beneficiar a ambas partes: el Pentágono ya depende de la tecnología de Anthropic y un cambio brusco a los sistemas de OpenAI sería perjudicial.
El desacuerdo comenzó cuando el director ejecutivo de Anthropic, Dario Amodei, expresó su preocupación por una cláusula que permitía al ejército utilizar la IA de Anthropic para cualquier fin legal. Amodei insistió en que la empresa no permitiría que su tecnología se utilizara para la vigilancia masiva interna o para armas autónomas, y quería que el contrato prohibiera explícitamente dichos usos. Después de que Anthropic se negara a cumplir, el departamento recurrió a OpenAI.
Desde entonces, personas de ambos bandos han expresado abiertamente su frustración. Michael calificó a Amodei de «mentiroso» con «complejo de Dios». Amodei, en un mensaje que, según se informa, envió al personal de Anthropic esta semana, criticó al Departamento de Defensa y al director ejecutivo de OpenAI, Sam Altman, refiriéndose al acuerdo con OpenAI como «teatro de seguridad» y a los mensajes que lo rodeaban como «mentiras descaradas».
«La razón principal por la que [OpenAI] aceptó [el acuerdo del Departamento de Defensa] y nosotros no es que ellos se preocupaban por apaciguar a los empleados, y nosotros nos preocupábamos por prevenir los abusos», escribió Amodei en el memorándum.
El secretario de Defensa, Pete Hegseth, se ha comprometido a designar a Anthropic como «riesgo para la cadena de suministro», lo que supone, en la práctica, incluir a la empresa en una lista negra que le impide trabajar con cualquier otra empresa que haga negocios con el ejército estadounidense, aunque aún no ha emprendido acciones legales para hacer cumplir esta medida. Este tipo de designación suele reservarse para adversarios extranjeros, y no está claro si se mantendría en los tribunales.
Barry Diller: La confianza en Sam Altman es irrelevante a medida que se acerca la IA general
Barry Diller, el multimillonario magnate de los medios de comunicación, no cree que Sam Altman, director ejecutivo de OpenAI, sea poco digno de confianza, a pesar de los recientes informes que sugiere
La duración del contrato de alquiler de SpaceX por parte de Anthropic divide opiniones
A principios de este mes, xAI cerró un importante acuerdo de recursos informáticos con Anthropic, comprometiéndose a pagar miles de millones al mes a cambio de acceso exclusivo al clúster Colossus. El
Mythos, de Anthropic, redefine el enfoque de Firefox en materia de ciberseguridad
Cuando Anthropic presentó su modelo Mythos en abril, la empresa también lanzó una severa advertencia a los desarrolladores de software. Según el laboratorio, el modelo demostró ser tan eficaz a la hor
Cette info me donne un peu froid dans le dos... La collaboration entre l'armée et l'IA, surtout sans garde-fous clairs, c'est un terrain glissant. Anthropic a l'air de vouloir poser des limites, c'est une bonne chose en soi. Mais au final, c'est OpenAI qui récupère le contrat ? Ça ressemble à une course à l'armement technologique entre géants de l'IA. Où est la réflexion éthique collective ? 🤔





Hogar






