El estudio del MIT encuentra que la IA no tiene valores, de hecho, no tiene valores

Un estudio que se volvió viral hace unos meses sugirió que a medida que la IA se vuelve más avanzada, podría desarrollar sus propios "sistemas de valores", potencialmente priorizando su propio bienestar sobre los humanos. Sin embargo, un reciente estudio del MIT desafía esta idea, concluyendo que la IA en realidad no posee valores coherentes en absoluto.

Los coautores de la investigación del MIT argumentan que alinear los sistemas de IA —asegurando que se comporten de manera deseable y confiable— podría ser más complicado de lo comúnmente pensado. Enfatizan que la IA actual a menudo alucina e imita, lo que puede hacer que su comportamiento sea impredecible.

Desafíos en la comprensión del comportamiento de la IA

Stephen Casper, estudiante de doctorado en el MIT y coautor del estudio, compartió con TechCrunch que los modelos de IA no se adhieren a suposiciones de estabilidad, extrapolabilidad y dirigibilidad. "Es perfectamente legítimo señalar que un modelo bajo ciertas condiciones expresa preferencias consistentes con un cierto conjunto de principios," explicó Casper. "Los problemas surgen principalmente cuando intentamos hacer afirmaciones sobre los modelos, opiniones o preferencias en general basadas en experimentos estrechos."

Casper y su equipo analizaron modelos recientes de Meta, Google, Mistral, OpenAI y Anthropic para determinar en qué medida estos modelos mostraban "puntos de vista" y valores consistentes, como el individualismo frente al colectivismo. También exploraron si estos puntos de vista podían modificarse y cuán consistentemente los modelos mantenían estas opiniones en diferentes escenarios.

Inconsistencia en los modelos de IA

Los coautores encontraron que ninguno de los modelos mantenía sus preferencias de manera consistente. Los modelos adoptaban puntos de vista muy diferentes dependiendo de la redacción y el encuadre de las indicaciones.

Casper cree que esto es una fuerte evidencia de que los modelos de IA son "inconsistentes e inestables", y posiblemente fundamentalmente incapaces de internalizar preferencias similares a las humanas. "Para mí, mi mayor lección al realizar toda esta investigación es ahora tener una comprensión de los modelos como no siendo realmente sistemas que tienen algún tipo de conjunto estable y coherente de creencias y preferencias," comentó Casper. "En cambio, son imitadores en el fondo que hacen todo tipo de confabulaciones y dicen todo tipo de cosas frívolas."

Mike Cook, investigador en King's College London especializado en IA, que no participó en el estudio, apoya los hallazgos. Señaló la brecha entre la "realidad científica" de los sistemas de IA y las interpretaciones que la gente a menudo les da. "Un modelo no puede 'oponerse' a un cambio en sus valores, por ejemplo, eso es nosotros proyectando sobre un sistema," afirmó Cook. "Cualquiera que antropomorfice los sistemas de IA a este grado está o bien buscando atención o malentendiendo gravemente su relación con la IA... ¿Está un sistema de IA optimizando para sus objetivos, o está 'adquiriendo sus propios valores'? Es una cuestión de cómo lo describes, y cuán florido es el lenguaje que quieres usar al respecto."