Hogar
El psicólogo de Harvard Pike: Centrarse en la ingeniería de seguridad de la IA, no en los rumores del fin del mundo

El psicólogo de Harvard Steven Pinker sostiene que los temores sobre la extinción humana causada por la inteligencia artificial están enormemente exagerados, una posición que detalló en una carta abierta a Quillette dirigida a Scott Alexander.
Tras que Alexander desafió a Pinker a un debate público sobre los riesgos de supervivencia de la IA, Pinker se negó, desestimando el intercambio como mero entretenimiento. Rechaza específicamente el experimento mental del "maximizador de clips de papel", argumentando que equipara erróneamente la inteligencia con la agresión e ignora la probabilidad de que los sistemas se salgan de control.
Los riesgos reales suelen pasar desapercibidos
Aunque Pinker anteriormente veía la IA con optimismo, admite dos errores de cálculo: subestimar el poder de los modelos de lenguaje grandes y no predecir con qué rapidez las empresas los implementarían. Irónicamente, muchos de los que advierten sobre estos riesgos provienen de grupos que anteriormente desestimaron tales preocupaciones.
Pinker identifica el bioterrorismo, los ciberataques y los agentes de IA no regulados como amenazas reales. Argumenta que centrarse en escenarios de extinción distrae de soluciones prácticas como una ingeniería de seguridad robusta, supervisión independiente, marcos de responsabilidad y mantener el control humano.
Los opositores estiman un riesgo de extinción del 20%
Artículo relacionado
El fundador de Rivian, Mind Robotics, recauda 500 millones de dólares para avanzar en la IA industrial
Mientras el mundo de la tecnología se obsesiona con los robots humanoides, una startup está trazando un camino diferente: ignorando el hype mientras asegura un respaldo masivo de capital de riesgo de élite. El 12 de marzo, Mind Robotics, una empresa
¿Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO?
Construir un Bot de Correo Electrónico Personalizado para Automatizar tus MensajesIntroducciónConfiguración del Entorno de PythonDesarrollo de un Bot de Envío de Correos ElectrónicosHabilitación del Acceso para Aplicaciones ExternasImplementació
El jefe de productos de OpenAI, Thibault Sottiaux, sobre por qué el mundo parece estar preparado
La herramienta de ingeniería de software de OpenAI, Codex, ha estado asociada durante mucho tiempo con Thibault Sottiaux, el ingeniero conocido por restablecer los límites de tokens cada vez que el producto alcanza un hito importante de crecimiento.
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

El psicólogo de Harvard Steven Pinker sostiene que los temores sobre la extinción humana causada por la inteligencia artificial están enormemente exagerados, una posición que detalló en una carta abierta a Quillette dirigida a Scott Alexander.
Tras que Alexander desafió a Pinker a un debate público sobre los riesgos de supervivencia de la IA, Pinker se negó, desestimando el intercambio como mero entretenimiento. Rechaza específicamente el experimento mental del "maximizador de clips de papel", argumentando que equipara erróneamente la inteligencia con la agresión e ignora la probabilidad de que los sistemas se salgan de control.
Los riesgos reales suelen pasar desapercibidos
Aunque Pinker anteriormente veía la IA con optimismo, admite dos errores de cálculo: subestimar el poder de los modelos de lenguaje grandes y no predecir con qué rapidez las empresas los implementarían. Irónicamente, muchos de los que advierten sobre estos riesgos provienen de grupos que anteriormente desestimaron tales preocupaciones.
Pinker identifica el bioterrorismo, los ciberataques y los agentes de IA no regulados como amenazas reales. Argumenta que centrarse en escenarios de extinción distrae de soluciones prácticas como una ingeniería de seguridad robusta, supervisión independiente, marcos de responsabilidad y mantener el control humano.
Los opositores estiman un riesgo de extinción del 20%
El fundador de Rivian, Mind Robotics, recauda 500 millones de dólares para avanzar en la IA industrial
Mientras el mundo de la tecnología se obsesiona con los robots humanoides, una startup está trazando un camino diferente: ignorando el hype mientras asegura un respaldo masivo de capital de riesgo de élite. El 12 de marzo, Mind Robotics, una empresa
¿Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO?
Construir un Bot de Correo Electrónico Personalizado para Automatizar tus MensajesIntroducciónConfiguración del Entorno de PythonDesarrollo de un Bot de Envío de Correos ElectrónicosHabilitación del Acceso para Aplicaciones ExternasImplementació
El jefe de productos de OpenAI, Thibault Sottiaux, sobre por qué el mundo parece estar preparado
La herramienta de ingeniería de software de OpenAI, Codex, ha estado asociada durante mucho tiempo con Thibault Sottiaux, el ingeniero conocido por restablecer los límites de tokens cada vez que el producto alcanza un hito importante de crecimiento.











