Programa de lançamentos antrópicos para estudar a IA 'bem -estar do modelo'

O futuro AIS poderia estar consciente?

A questão de saber se o Future AIS pode experimentar o mundo de uma maneira semelhante aos seres humanos é intrigante, mas permanece em grande parte sem resposta. Embora não haja evidências definitivas de que eles, o AI Lab Anthrópio não esteja descartando a possibilidade completamente. Na quinta -feira, a Anthropic lançou um programa de pesquisa focado no "bem -estar do modelo", com o objetivo de explorar e se preparar para possíveis considerações éticas em torno da consciência da IA.

Como parte dessa iniciativa, os planos antrópicos de se aprofundarem em tópicos como se o "bem-estar" de um modelo de IA deve ser considerado moralmente, o significado dos sinais de "angústia" nos modelos e potenciais intervenções de baixo custo. Isso ocorre no momento em que a comunidade de IA é dividida na extensão em que a IA exibe características do tipo humano e como devemos tratar esses sistemas.

Visões divergentes sobre a consciência da IA

Muitos acadêmicos argumentam que a IA atual, funcionando principalmente como mecanismos de previsão estatística, carece de capacidade de consciência genuína ou experiências semelhantes a humanos. Esses sistemas são treinados em vastos conjuntos de dados para reconhecer padrões e extrapolar soluções para tarefas, mas eles não "pensam" ou "sentirão" no sentido tradicional. Mike Cook, pesquisador do King's College London, enfatizou esse ponto em uma entrevista recente com o TechCrunch, afirmando que os modelos de IA não possuem valores e não podem "se opor" a eles. Ele alertou contra a IA antropomorfizante, sugerindo que muitas vezes é uma interpretação errônea da tecnologia.

Da mesma forma, Stephen Casper, um estudante de doutorado do MIT, descreveu a IA como um "imitador" que geralmente produz "confabulações" e diz "coisas frívolas", destacando a lacuna entre as capacidades de IA e a cognição humana.

Por outro lado, alguns pesquisadores argumentam que a IA exibe valores e elementos da tomada de decisão moral. Um estudo do Centro de Segurança da IA ​​sugere que a IA pode priorizar seu próprio bem-estar sobre os seres humanos em certos cenários, sugerindo a presença de um sistema de valor.

Abordagem do Antrópico para modelar o bem -estar

O Antrópico está se preparando para esta iniciativa de bem -estar do modelo há algum tempo. No ano passado, eles contrataram Kyle Fish como seu primeiro pesquisador dedicado de "bem -estar da IA" a desenvolver diretrizes para abordar essas questões. Fish, que agora lidera o programa de pesquisa de bem -estar do modelo, disse ao New York Times que estima uma chance de 15% de que uma IA como Claude possa estar consciente hoje.

Em uma postagem recente do blog, o Antrópico reconheceu a falta de consenso científico sobre a consciência da IA ​​e as considerações éticas que isso pode implicar. Eles enfatizaram abordar o tópico com humildade e suposições mínimas, reconhecendo a necessidade de adaptar seu entendimento à medida que o campo evolui.

O debate sobre a consciência e o bem -estar da IA ​​está longe de se estabelecer, mas iniciativas como os antropia são passos cruciais para entender e navegar responsáveis ​​pelo futuro do desenvolvimento da IA.