El programa de lanzamiento antrópico para estudiar la IA 'Bienestar del modelo'

¿Podría ser el futuro ser consciente?

La cuestión de si el futuro AIS podría experimentar el mundo de una manera similar a los humanos es intrigante, pero permanece en gran medida sin respuesta. Si bien no hay evidencia definitiva de que lo harán, AI Lab Anthrope no descarta la posibilidad directamente. El jueves, Anthrope lanzó un programa de investigación centrado en el "bienestar modelo", con el objetivo de explorar y prepararse para posibles consideraciones éticas que rodean la conciencia de la IA.

Como parte de esta iniciativa, antrópico planea profundizar en temas como si el "bienestar" de un modelo de IA debe considerarse moralmente, la importancia de los signos de "angustia" en los modelos y las posibles intervenciones de bajo costo. Esto se produce en un momento en que la comunidad de IA se divide en la medida en que la IA exhibe características similares a los humanos y cómo debemos tratar estos sistemas.

Vistas divergentes sobre la conciencia de AI

Muchos académicos argumentan que la IA actual, que funciona principalmente como motores de predicción estadística, carece de la capacidad de conciencia genuina o experiencias similares a los humanos. Estos sistemas están capacitados en vastas conjuntos de datos para reconocer patrones y soluciones extrapoladas a las tareas, pero no "piensan" o "sentirse" en el sentido tradicional. Mike Cook, miembro de la investigación del King's College London, enfatizó este punto en una entrevista reciente con TechCrunch, afirmando que los modelos de IA no poseen valores y no pueden "oponerse" a los cambios. Advirtió contra antropomorfizar la IA, sugiriendo que a menudo es una interpretación errónea de la tecnología.

Del mismo modo, Stephen Casper, un estudiante de doctorado en el MIT, describió la IA como un "imitador" que a menudo produce "confabulaciones" y dice "cosas frívolas", destacando la brecha entre las capacidades de la IA y la cognición humana.

Por otro lado, algunos investigadores argumentan que la IA exhibe valores y elementos de la toma de decisiones morales. Un estudio del Centro para la Seguridad de la IA sugiere que la IA puede priorizar su propio bienestar sobre los humanos en ciertos escenarios, insinuando la presencia de un sistema de valores.

El enfoque de Anthrope para modelar el bienestar

Anthrope se ha estado preparando para esta iniciativa de bienestar modelo durante algún tiempo. El año pasado, contrataron a Kyle Fish como su primer investigador dedicado de "bienestar de IA" para desarrollar pautas para abordar estos problemas. Fish, quien ahora lidera el programa de investigación de bienestar modelo, le dijo al New York Times que estima una probabilidad del 15% de que una IA como Claude pueda ser consciente hoy.

En una publicación de blog reciente, Anthrope reconoció la falta de consenso científico sobre la conciencia de la IA y las consideraciones éticas que podría implicar. Hicieron hincapié en acercarse al tema con humildad y suposiciones mínimas, reconociendo la necesidad de adaptar su comprensión a medida que evoluciona el campo.

El debate sobre la conciencia y el bienestar de la IA está lejos de ser establecido, pero iniciativas como Anthrope son pasos cruciales para comprender y navegar de manera responsable del futuro del desarrollo de la IA.