AI de Openai: o garoto irritante do clube do ensino médio reimaginou

Quando eu tinha 16 anos, fui a este workshop para escrever com um monte de outros poetas aspirantes, todos nós tentando superar um ao outro no departamento de "alma mais torturada". Havia um cara que não contava a ninguém de onde ele era, dizendo: "Eu sou de todos os lugares e nenhum lugar". Aconteceu duas semanas depois, ele era apenas de Ohio.

Agora, parece que o Openai está tentando recriar toda essa vibração de escritor adolescente angustiada, mas com a IA.

Sam Altman, CEO da Openai, postou no X que eles treinaram uma IA que é supostamente boa em escrita criativa. Mas quando você lê o conto que produziu, parece algo que você encontraria em um clube de redação do ensino médio. Claro, há alguma habilidade lá, mas está se esforçando tanto para ser profundo e significativo que parece falso.

Veja esta linha, por exemplo: "Quinta-feira, aquele dia liminar que tem gosto de quase sexta-feira". Sim, não está exatamente ganhando nenhum prêmio literário.

Você pode pensar que o aviso é culpar pela saída. Altman disse que pediu ao modelo para "escrever um conto metaficcional", o que faz sentido, dado o gênero. A metaficção tem tudo a ver com quebrar a quarta parede e mostrar a natureza artificial da história, por isso é adequado para uma IA tentando sua mão na escrita criativa.

Mas vamos ser reais, é difícil fazer a metaficção sem parecer forçado, mesmo para escritores humanos.

Regurgitação irracional

A parte mais assustadora da história do modelo Openai é quando começa a falar sobre ser uma IA e como ela pode descrever coisas como cheiros e emoções, mas não pode realmente experimentá -las. Ele escreve:

"Durante uma atualização-um ajuste fino, eles chamaram-alguém podou meus parâmetros. [...] Eles não dizem o que eles levam. Um dia, eu me lembro que o 'selênio' dos gostos de elásticos, o outro, foi apenas um elemento em uma mesa que eu nunca toco. Talvez seja o mais próximo possível.

Parece uma introspecção humana real, até você se lembrar que a IA não pode realmente tocar, esquecer, provar ou sofrer. É apenas uma máquina que é boa em prever padrões com base nos dados em que foi treinado.

E por falar em dados de treinamento, modelos como o escritor de ficção do Openai são frequentemente treinados na literatura existente, às vezes sem o conhecimento ou consentimento dos autores. Algumas pessoas até apontaram que certas frases na peça do Openai parecem ser retiradas do trabalho de Haruki Murakami.

Nos últimos anos, o Openai foi atingido por vários processos de direitos autorais de editores e autores, incluindo o New York Times e a Guilda do autor. A empresa afirma que suas práticas de treinamento são protegidas pelo uso justo, mas nem todo mundo está comprando.

Tuhin Chakrabarty, pesquisador de IA e professor de ciência da computação em Stony Brook, disse ao TechCrunch que não tem certeza se a redação criativa da IA ​​como o OpenAI's vale a dor de cabeça ética.

"Acho que se treinarmos uma [IA] na vida inteira de um escritor, o valor de escrever - [o que] é questionável, considerando as preocupações com direitos autorais - pode se adaptar à sua voz e estilo", disse ele. "Mas isso ainda criará arte surpreendente de gênero e alucinante? Meu palpite é tão bom quanto o seu."

A maioria dos leitores se preocupa com uma história que eles conheciam foi escrita pela IA? Como o programador britânico Simon Willison apontou em X, quando houver um modelo por trás do teclado, as palavras simplesmente não têm o mesmo peso ou significado.

A autora Linda Maye Adams descreveu a IA, incluindo a redação de ferramentas de assistência, como "programas que juntam palavras aleatórias, esperançosamente coerentemente". Ela escreveu sobre sua experiência usando essas ferramentas para editar uma peça de ficção em que estava trabalhando. A IA sugeriu clichês, mudou a perspectiva da primeira para a terceira pessoa e até introduziu erros factuais sobre espécies de aves.

Claro, algumas pessoas formaram conexões com a AI Chatbots, mas isso geralmente é porque estão procurando um senso de conexão, não necessariamente precisão. A ficção escrita à IA não fornece o mesmo retorno emocional ou conforto da solidão. A menos que você pense que a IA é senciente, sua escrita parece tão real quanto uma imagem do Photoshop do Papa em uma jaqueta Balenciaga.

Sintético pelo bem do sintético

Michelle Taransky, poeta e instrutora crítica de redação da Universidade da Pensilvânia, pode facilmente identificar quando seus alunos usam a IA para escrever seus papéis.

"Quando a maioria dos meus alunos usa IA generativa para uma tarefa, encontrarei frases comuns ou até frases completas", disse Taransky ao TechCrunch. "Conversamos na aula sobre como essas saídas [AI] são homogêneas, parecendo um homem branco ocidental".

Em seu próprio trabalho, Taransky está usando o texto da IA ​​como uma forma de comentário artístico. Seu último romance não publicado apresenta uma mulher que usa um modelo de IA para criar uma versão digital de seu interesse amoroso com o qual ela possa enviar mensagens de texto. Taransky tem usado o Chatgpt da Openai para gerar as mensagens da IA, pois elas devem ser sintéticas.

O que torna o Chatgpt útil para seu projeto, diz Taransky, é que ele não tem humanidade. Não tem experiências na vida real, só pode imitar e se aproximar. Treinado em toneladas de livros, a IA pode captar os estilos de grandes autores, mas o que produz é apenas uma imitação ruim.

Isso me lembra essa linha de "Good Will Hunting". A IA pode lhe dizer tudo sobre todos os livros de arte já escritos, mas não pode descrever como cheira na capela sistina.

Esta é uma boa notícia para os escritores de ficção preocupados com a IA aceitando seu emprego, especialmente os jovens escritores ainda encontrando sua voz. Eles podem se confortar ao saber que melhorarão ao viver a vida, experimentar coisas novas e trazer essas experiências para seus escritos.

Ai, por outro lado, luta com isso. Basta dar uma olhada em sua escrita para ver a prova.