Hogar
Anthropic pone en marcha un grupo de expertos para estudiar el impacto social de la IA avanzada

Dado que el ritmo de desarrollo de la inteligencia artificial supera con creces las previsiones del sector, el líder en seguridad de la IA, , anunció oficialmente el 11 de octubre, hora local de EE. UU., la fundación del Anthropic Institute, un centro de estudios. El objetivo de esta organización no es crear modelos más potentes, sino centrarse en estudiar y abordar los profundos retos y los riesgos significativos que la «IA avanzada» podría suponer para la sociedad humana.
Se prevén avances en inteligencia artificial en los próximos dos años, que podrían alcanzar el umbral de la Inteligencia Artificial General (AGI) antes de lo que la mayoría espera. Para abordar esto, el nuevo centro de estudios se centrará en cuatro áreas críticas:
Empleo y transformación económica: examinar cómo la automatización de la IA remodelará el mercado laboral mundial y las estrategias de respuesta necesarias.
Amenazas y resiliencia defensiva: Prevenir el uso indebido de la tecnología de IA en ámbitos de alto riesgo, como la bioseguridad y los ciberataques, al tiempo que se refuerzan las defensas sociales.
Alineación de valores de la IA: Garantizar que la toma de decisiones de los sistemas de IA de vanguardia se ajuste a la ética humana y al bien público.
Sistemas de gobernanza de bucle cerrado: investigar la transparencia y la gestión del cumplimiento normativo de la IA durante los procesos de autosupervisión y evolución.
tiene como objetivo romper los ecosistemas cerrados dentro de las principales empresas tecnológicas. Servirá de puente, compartiendo con el público y los responsables políticos los auténticos retos técnicos a los que se enfrenta el desarrollo de sistemas de vanguardia. El instituto también colaborará ampliamente con investigadores externos, organismos gubernamentales y grupos de la sociedad civil para desarrollar soluciones compartidas.
Recientemente, ha experimentado un notable éxito comercial. Los informes indican que su modelo « », bajo el paraguas de , ha estado sumando más de un millón de usuarios diarios. Sin embargo, detrás de este auge de la potencia computacional y el crecimiento comercial, ha mantenido de forma constante su identidad corporativa de «la seguridad es lo primero».
Artículo relacionado
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Dado que el ritmo de desarrollo de la inteligencia artificial supera con creces las previsiones del sector, el líder en seguridad de la IA,
Empleo y transformación económica: examinar cómo la automatización de la IA remodelará el mercado laboral mundial y las estrategias de respuesta necesarias.
Amenazas y resiliencia defensiva: Prevenir el uso indebido de la tecnología de IA en ámbitos de alto riesgo, como la bioseguridad y los ciberataques, al tiempo que se refuerzan las defensas sociales.
Alineación de valores de la IA: Garantizar que la toma de decisiones de los sistemas de IA de vanguardia se ajuste a la ética humana y al bien público.
Sistemas de gobernanza de bucle cerrado: investigar la transparencia y la gestión del cumplimiento normativo de la IA durante los procesos de autosupervisión y evolución.
Recientemente,
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad











