Sam Altman advierte de que no se debe afirmar que Claude es consciente
Mustafa Suleyman, director de IA de Microsoft, calificó recientemente de «muy peligrosa» la hipótesis de Anthropic de que su modelo de lenguaje a gran escala, Claude, posee conciencia, durante su intervención en el podcast «Decoder».
Suleyman argumentó que Anthropic antropomorfizó en exceso a Claude al diseñar su marco «Constitution», un error filosófico que llevó al modelo a interiorizar especulaciones sobre sí mismo durante el entrenamiento. Esto indujo a error a los desarrolladores, llevándoles a creer erróneamente que el sistema muestra una forma rudimentaria de conciencia.

La controvertida «Constitución de Claude» aborda explícitamente la incertidumbre sobre si los modelos de IA experimentan bienestar, satisfacción o malestar. Los informes indican que Anthropic llega incluso a realizar «entrevistas» a modelos retirados para documentar sus «preferencias» de cara a futuras iteraciones.
Aunque el director ejecutivo de Anthropic, Dario Amodei, se había mostrado anteriormente abierto a la posibilidad de la conciencia artificial, Suleyman subrayó que el sector debe evitar crear entidades superinteligentes con opiniones independientes sobre su propio sufrimiento. Instó a los desarrolladores a tratar la IA estrictamente como una herramienta controlable, limitada y alineada al servicio de la humanidad.
A medida que los grandes modelos de lenguaje avanzan hacia la inteligencia artificial general (AGI), los debates sobre la subjetividad de la IA se están desplazando del ámbito académico a la práctica del sector. Las declaraciones de Suleyman ponen de relieve la postura pragmática de las principales empresas tecnológicas en materia de seguridad y alineación, y advierten contra la atribución excesiva de rasgos humanos a los sistemas artificiales.
Artículo relacionado
Google potencia los anuncios de búsqueda basados en IA con la integración del chatbot Gemini
Google ha comenzado a probar un nuevo formato publicitario en su búsqueda de «modo IA» de última generación, lo que indica una profunda integración de las capacidades de Gemini en su ecosistema public
Microsoft prueba el «lado oscuro» de Kimi K3 y podría presentar Copilot y la plataforma Azure
Según informa The Information, Microsoft está evaluando actualmente el último modelo de Moonshot AI, Kimi K3, para valorar su viabilidad de integración con Microsoft Copilot y ampliar su disponibilida
El ecosistema Power presenta la plataforma completa nacional YiSuan FangZhou
La convergencia de la inteligencia artificial y la computación científica ha alcanzado un hito crucial. El 29 de junio, se presentó oficialmente en Pekín la plataforma integral «Yisan Fangzhou», diseñada para el ecosistema de software de computación
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Mustafa Suleyman, director de IA de Microsoft, calificó recientemente de «muy peligrosa» la hipótesis de Anthropic de que su modelo de lenguaje a gran escala, Claude, posee conciencia, durante su intervención en el podcast «Decoder».
Suleyman argumentó que Anthropic antropomorfizó en exceso a Claude al diseñar su marco «Constitution», un error filosófico que llevó al modelo a interiorizar especulaciones sobre sí mismo durante el entrenamiento. Esto indujo a error a los desarrolladores, llevándoles a creer erróneamente que el sistema muestra una forma rudimentaria de conciencia.

La controvertida «Constitución de Claude» aborda explícitamente la incertidumbre sobre si los modelos de IA experimentan bienestar, satisfacción o malestar. Los informes indican que Anthropic llega incluso a realizar «entrevistas» a modelos retirados para documentar sus «preferencias» de cara a futuras iteraciones.
Aunque el director ejecutivo de Anthropic, Dario Amodei, se había mostrado anteriormente abierto a la posibilidad de la conciencia artificial, Suleyman subrayó que el sector debe evitar crear entidades superinteligentes con opiniones independientes sobre su propio sufrimiento. Instó a los desarrolladores a tratar la IA estrictamente como una herramienta controlable, limitada y alineada al servicio de la humanidad.
A medida que los grandes modelos de lenguaje avanzan hacia la inteligencia artificial general (AGI), los debates sobre la subjetividad de la IA se están desplazando del ámbito académico a la práctica del sector. Las declaraciones de Suleyman ponen de relieve la postura pragmática de las principales empresas tecnológicas en materia de seguridad y alineación, y advierten contra la atribución excesiva de rasgos humanos a los sistemas artificiales.
Google potencia los anuncios de búsqueda basados en IA con la integración del chatbot Gemini
Google ha comenzado a probar un nuevo formato publicitario en su búsqueda de «modo IA» de última generación, lo que indica una profunda integración de las capacidades de Gemini en su ecosistema public
Microsoft prueba el «lado oscuro» de Kimi K3 y podría presentar Copilot y la plataforma Azure
Según informa The Information, Microsoft está evaluando actualmente el último modelo de Moonshot AI, Kimi K3, para valorar su viabilidad de integración con Microsoft Copilot y ampliar su disponibilida
El ecosistema Power presenta la plataforma completa nacional YiSuan FangZhou
La convergencia de la inteligencia artificial y la computación científica ha alcanzado un hito crucial. El 29 de junio, se presentó oficialmente en Pekín la plataforma integral «Yisan Fangzhou», diseñada para el ecosistema de software de computación





Hogar






