Hogar
Anthropic, OpenAI y Google en conversaciones secretas para formar un organismo de estándares de seguridad de IA
Según fuentes del sector, antes de la llamada del sábado pasado del director ejecutivo de Anthropic, Dario Amodei, en la que instaba a las empresas de inteligencia artificial a colaborar en pruebas técnicas y auditorías, Anthropic, OpenAI y Google ya habían iniciado conversaciones para formar un organismo de estándares de la industria de la IA.
Los insiders informan que desde julio, representantes de estas tres empresas, operando por debajo del nivel de director ejecutivo, han formado un grupo de trabajo que se reúne con regularidad. A principios de esta semana, el director ejecutivo de OpenAI, Sam Altman, declaró durante una reunión general que apoya la creación de una institución independiente de pruebas y auditoría de IA, argumentando que los grandes laboratorios deben establecer dichos estándares sin la participación del gobierno de EE. UU. Aunque inicialmente favorecía el respaldo gubernamental, actualmente no hay un consenso suficiente en la industria, con algunas empresas que se oponen a la medida.
Debate sobre tres modelos regulatorios: FAA, FINRA o autorregulación
El sábado pasado, Amodei publicó una entrada de blog titulada «Debemos reducir el ritmo del desarrollo de frontera», instando a un frenazo en el progreso de la IA y a la creación de un mecanismo de supervisión independiente, con la autorregulación del sector como componente central. Sugería que, mientras los gobiernos redactan regulaciones sobre IA, las empresas deberían adoptar primero normas de seguridad voluntarias, con el gobierno potencialmente liderando o mediando en el diálogo del sector. También instó a las principales empresas globales a otorgar a evaluadores externos, como METR, acceso a tecnología equivalente a la de los empleados internos, comprometiéndose a que Anthropic sería la primera en hacerlo. Además, abogó por exenciones limitadas de las leyes antimonopolio para facilitar una colaboración segura.
Demis Hassabis, quien recientemente dimitió como director ejecutivo de Google DeepMind, describió la propuesta como un paso en la dirección correcta, pero señaló que ciertos detalles «aún necesitan refinamiento». En julio, había sugerido crear una organización de autorregulación de la IA inspirada en la Autoridad de Regulación de la Industria Financiera de EE. UU. (FINRA). Elon Musk, director ejecutivo de SpaceX, también expresó su apoyo. Según un informe anterior de The Information, la Casa Blanca distribuyó un proyecto de orden ejecutiva que proponía este organismo regulatorio, pero no logró obtener suficiente apoyo gubernamental a finales del verano, deteniendo los esfuerzos relacionados. David Sacks, el antiguo director de IA de la Casa Blanca, se ha opuesto abiertamente a establecer una institución similar a la FINRA.
Reacción adversa: los críticos lo califican como «el diseño de un cártel»
La propuesta ha enfrentado una fuerte crítica dentro del sector. Aiden Gomez, director ejecutivo de Cohere, expresó su preocupación de que las grandes empresas de IA pudieran establecer conjuntamente normas para restringir a competidores más pequeños, afirmando: «Esta idea suena exactamente como el diseño de un cártel». Sacks cuestionó si ralentizar el desarrollo era puramente altruista, argumentando que los riesgos de responsabilidad por productos ya proporcionan incentivos económicos para prevenir daños.
Según insiders, las reuniones del grupo de trabajo entre las tres empresas sobre esta organización de estándares liderada por la industria están en curso, con sesiones celebradas incluso la semana pasada. La posición de Meta sigue siendo incierta; su director de IA, Alexander Wang, publicó en X que «la alineación es la base para construir una superinteligencia personal para todas las personas», sin apoyar ni oponerse explícitamente a la propuesta más amplia de Amodei.
Artículo relacionado
OpenAI Lanza un Grupo de Tareas para Investigar el Uso Inusual de Codex
OpenAI ha lanzado un equipo de investigación dedicado tras los informes de usuarios sobre un uso irregular de la cuota de Codex. Los suscriptores de pago de ChatGPT han reportado una fuerte disminución en las cuotas semanales, con saldos que caen ráp
Societe Generale apuesta por la inteligencia artificial para reducir los costes hasta en 600 millones de euros
Bloomberg informa que Société Générale SA prevé que el creciente papel de la inteligencia artificial impulsará significativamente las iniciativas de reducción de costos.La institución con sede en París estima que el potencial actual de ahorro impuls
Cómo crear avatares parlantes de IA gratis
Personalización avanzada de avatares de Roblox: Una guía inspirada en Karl JacobsIntroducciónMejora de tu avatarNavegación por el editor de avataresExploración de tendencias popularesPersonalización de tu personajeHerramientas de búsqueda y fil
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Según fuentes del sector, antes de la llamada del sábado pasado del director ejecutivo de Anthropic, Dario Amodei, en la que instaba a las empresas de inteligencia artificial a colaborar en pruebas técnicas y auditorías, Anthropic, OpenAI y Google ya habían iniciado conversaciones para formar un organismo de estándares de la industria de la IA.
Los insiders informan que desde julio, representantes de estas tres empresas, operando por debajo del nivel de director ejecutivo, han formado un grupo de trabajo que se reúne con regularidad. A principios de esta semana, el director ejecutivo de OpenAI, Sam Altman, declaró durante una reunión general que apoya la creación de una institución independiente de pruebas y auditoría de IA, argumentando que los grandes laboratorios deben establecer dichos estándares sin la participación del gobierno de EE. UU. Aunque inicialmente favorecía el respaldo gubernamental, actualmente no hay un consenso suficiente en la industria, con algunas empresas que se oponen a la medida.
Debate sobre tres modelos regulatorios: FAA, FINRA o autorregulación
El sábado pasado, Amodei publicó una entrada de blog titulada «Debemos reducir el ritmo del desarrollo de frontera», instando a un frenazo en el progreso de la IA y a la creación de un mecanismo de supervisión independiente, con la autorregulación del sector como componente central. Sugería que, mientras los gobiernos redactan regulaciones sobre IA, las empresas deberían adoptar primero normas de seguridad voluntarias, con el gobierno potencialmente liderando o mediando en el diálogo del sector. También instó a las principales empresas globales a otorgar a evaluadores externos, como METR, acceso a tecnología equivalente a la de los empleados internos, comprometiéndose a que Anthropic sería la primera en hacerlo. Además, abogó por exenciones limitadas de las leyes antimonopolio para facilitar una colaboración segura.
Demis Hassabis, quien recientemente dimitió como director ejecutivo de Google DeepMind, describió la propuesta como un paso en la dirección correcta, pero señaló que ciertos detalles «aún necesitan refinamiento». En julio, había sugerido crear una organización de autorregulación de la IA inspirada en la Autoridad de Regulación de la Industria Financiera de EE. UU. (FINRA). Elon Musk, director ejecutivo de SpaceX, también expresó su apoyo. Según un informe anterior de The Information, la Casa Blanca distribuyó un proyecto de orden ejecutiva que proponía este organismo regulatorio, pero no logró obtener suficiente apoyo gubernamental a finales del verano, deteniendo los esfuerzos relacionados. David Sacks, el antiguo director de IA de la Casa Blanca, se ha opuesto abiertamente a establecer una institución similar a la FINRA.
Reacción adversa: los críticos lo califican como «el diseño de un cártel»
La propuesta ha enfrentado una fuerte crítica dentro del sector. Aiden Gomez, director ejecutivo de Cohere, expresó su preocupación de que las grandes empresas de IA pudieran establecer conjuntamente normas para restringir a competidores más pequeños, afirmando: «Esta idea suena exactamente como el diseño de un cártel». Sacks cuestionó si ralentizar el desarrollo era puramente altruista, argumentando que los riesgos de responsabilidad por productos ya proporcionan incentivos económicos para prevenir daños.
Según insiders, las reuniones del grupo de trabajo entre las tres empresas sobre esta organización de estándares liderada por la industria están en curso, con sesiones celebradas incluso la semana pasada. La posición de Meta sigue siendo incierta; su director de IA, Alexander Wang, publicó en X que «la alineación es la base para construir una superinteligencia personal para todas las personas», sin apoyar ni oponerse explícitamente a la propuesta más amplia de Amodei.
OpenAI Lanza un Grupo de Tareas para Investigar el Uso Inusual de Codex
OpenAI ha lanzado un equipo de investigación dedicado tras los informes de usuarios sobre un uso irregular de la cuota de Codex. Los suscriptores de pago de ChatGPT han reportado una fuerte disminución en las cuotas semanales, con saldos que caen ráp
Societe Generale apuesta por la inteligencia artificial para reducir los costes hasta en 600 millones de euros
Bloomberg informa que Société Générale SA prevé que el creciente papel de la inteligencia artificial impulsará significativamente las iniciativas de reducción de costos.La institución con sede en París estima que el potencial actual de ahorro impuls
Cómo crear avatares parlantes de IA gratis
Personalización avanzada de avatares de Roblox: Una guía inspirada en Karl JacobsIntroducciónMejora de tu avatarNavegación por el editor de avataresExploración de tendencias popularesPersonalización de tu personajeHerramientas de búsqueda y fil











