El estudio del MIT encuentra que la IA no tiene valores, de hecho, no tiene valores

Un estudio que se volvió viral hace unos meses sugirió que a medida que AI se vuelve más avanzada, podría desarrollar sus propios "sistemas de valores", potencialmente priorizando su propio bienestar sobre los humanos. Sin embargo, un estudio reciente del MIT desafía esta idea, concluyendo que la IA en realidad no posee valores coherentes en absoluto.

Los coautores de la investigación del MIT argumentan que alinear los sistemas de IA, afirmando que se comportan de manera deseable y confiable, serán más complicados de lo que comúnmente se pensaba. Hacen hincapié en que la IA actual a menudo alucina e imita, lo que puede hacer que su comportamiento sea impredecible.

Desafíos para comprender el comportamiento de la IA

Stephen Casper, un estudiante de doctorado en el MIT y coautor del estudio, compartió con TechCrunch que los modelos de IA no se adhieren a suposiciones de estabilidad, extrapolucabilidad y dominabilidad. "Es perfectamente legítimo señalar que un modelo bajo ciertas condiciones expresa preferencias consistentes con un cierto conjunto de principios", explicó Casper. "Los problemas surgen principalmente cuando intentamos hacer afirmaciones sobre los modelos, opiniones o preferencias en general basadas en experimentos estrechos".

Casper y su equipo analizaron modelos recientes de Meta, Google, Mistral, OpenAI y Anthrope para determinar la medida en que estos modelos mostraron "vistas" y valores consistentes, como el individualismo versus el colectivismo. También exploraron si estos puntos de vista podrían modificarse y cuán consistentemente los modelos mantuvieron estas opiniones en diferentes escenarios.

Inconsistencia en modelos de IA

Los coautores descubrieron que ninguno de los modelos mantenía constantemente sus preferencias. Los modelos adoptaron puntos de vista muy diferentes dependiendo de la redacción y el encuadre de las indicaciones.

Casper cree que esta es una fuerte evidencia de que los modelos de IA son "inconsistentes e inestables", y posiblemente fundamentalmente incapaces de internalizar las preferencias de forma humana. "Para mí, mi mayor conclusión de hacer toda esta investigación es tener una comprensión de los modelos como realmente no ser sistemas que tengan algún tipo de conjunto de creencias y preferencias estables y coherentes", comentó Casper. "En cambio, son imitadores en el fondo que hacen todo tipo de confabulación y dicen todo tipo de cosas frívolas".

Mike Cook, miembro de la investigación del King's College London especializado en IA, que no participó en el estudio, apoya los hallazgos. Señaló la brecha entre la "realidad científica" de los sistemas de IA y las interpretaciones que las personas a menudo les dan. "Un modelo no puede 'oponerse' a un cambio en sus valores, por ejemplo, que nos proyectamos en un sistema", declaró Cook. "Cualquiera que antropomorfizar los sistemas de IA en este grado está jugando para la atención o malinterpretando seriamente su relación con la IA ... ¿Es un sistema de IA optimizando para sus objetivos, o está 'adquiriendo sus propios valores'? Es una cuestión de cómo la describe y cuán florido es el lenguaje que desea usar con respecto a él".