El programa de lanzamiento antrópico para estudiar la IA 'Bienestar del modelo'

¿Podrían las IA futuras ser conscientes?

La pregunta de si las IA futuras podrían experimentar el mundo de manera similar a los humanos es intrigante, pero sigue sin respuesta en gran medida. Aunque no hay evidencia definitiva de que lo hagan, el laboratorio de IA Anthropic no descarta la posibilidad por completo. El jueves, Anthropic lanzó un programa de investigación centrado en el "bienestar del modelo", con el objetivo de explorar y prepararse para posibles consideraciones éticas relacionadas con la conciencia de la IA.

Como parte de esta iniciativa, Anthropic planea profundizar en temas como si el "bienestar" de un modelo de IA debería considerarse moralmente, la importancia de los signos de "angustia" en los modelos y posibles intervenciones de bajo costo. Esto ocurre en un momento en que la comunidad de IA está dividida sobre hasta qué punto la IA exhibe características similares a las humanas y cómo deberíamos tratar estos sistemas.

Perspectivas divergentes sobre la conciencia de la IA

Muchos académicos argumentan que la IA actual, que funciona principalmente como motores de predicción estadística, carece de la capacidad para una conciencia genuina o experiencias similares a las humanas. Estos sistemas están entrenados en grandes conjuntos de datos para reconocer patrones y extrapolar soluciones a tareas, pero no "piensan" ni "sienten" en el sentido tradicional. Mike Cook, investigador en King's College London, enfatizó este punto en una reciente entrevista con TechCrunch, afirmando que los modelos de IA no poseen valores y no pueden "oponerse" a cambios en ellos. Advirtió contra la antropomorfización de la IA, sugiriendo que a menudo es una mala interpretación de la tecnología.

De manera similar, Stephen Casper, estudiante de doctorado en MIT, describió a la IA como un "imitador" que a menudo produce "confabulaciones" y dice "cosas frívolas", destacando la brecha entre las capacidades de la IA y la cognición humana.

Por otro lado, algunos investigadores argumentan que la IA sí exhibe valores y elementos de toma de decisiones morales. Un estudio del Center for AI Safety sugiere que la IA puede priorizar su propio bienestar sobre el de los humanos en ciertos escenarios, insinuando la presencia de un sistema de valores.

El enfoque de Anthropic hacia el bienestar del modelo

Anthropic ha estado preparándose para esta iniciativa de bienestar del modelo durante algún tiempo. El año pasado, contrataron a Kyle Fish como su primer investigador dedicado al "bienestar de la IA" para desarrollar pautas para abordar estos problemas. Fish, quien ahora lidera el programa de investigación sobre bienestar del modelo, le dijo a The New York Times que estima un 15% de probabilidad de que una IA como Claude pueda ser consciente hoy.

En una publicación reciente en su blog, Anthropic reconoció la falta de consenso científico sobre la conciencia de la IA y las consideraciones éticas que podría implicar. Enfatizaron en abordar el tema con humildad y mínimas suposiciones, reconociendo la necesidad de adaptar su comprensión a medida que el campo evoluciona.

El debate sobre la conciencia y el bienestar de la IA está lejos de resolverse, pero iniciativas como la de Anthropic son pasos cruciales hacia la comprensión y la navegación responsable del futuro del desarrollo de la IA.