AI de Openai: el molesto niño del club de ficción de la escuela secundaria reinventada

Cuando tenía 16 años, fui a este taller de escritura con un grupo de otros aspirantes a poetas, todos tratando de superarse en el departamento de "alma más torturada". Había un tipo que no le decía a nadie de dónde era, diciendo: "Soy de todas partes y en ninguna parte". Resultó dos semanas después, solo era de Ohio.

Ahora, parece que Operai está tratando de recrear todo ese ambiente de escritor adolescente angustiado, pero con IA.

Sam Altman, el CEO de Operai, publicó en X que han entrenado una IA que supuestamente es buena en la escritura creativa. Pero cuando lees la historia corta que produjo, se siente como algo que encontrarías en un club de escritura de secundaria. Claro, hay cierta habilidad allí, pero es tan difícil ser profundo y significativo que se presente como falso.

Tome esta línea, por ejemplo: "Jueves, ese día liminal que sabe casi a viernes". Sí, no ganar exactamente ningún premio literario.

Puede pensar que el aviso es culpar a la salida. Altman dijo que le pidió al modelo que "escribiera una historia corta metaficcional", lo que tiene sentido dado el género. La metaficción se trata de romper la cuarta pared y mostrar la naturaleza artificial de la historia, por lo que es apropiado para una IA que intente su escritura creativa.

Pero seamos realistas, la metaficción es difícil de lograr sin sonar forzada, incluso para los escritores humanos.

Regurgitación sin sentido

La parte más espeluznante de la historia del modelo Operai es cuando comienza a hablar de ser una IA y cómo puede describir cosas como olores y emociones, pero en realidad no puede experimentarlas. Escribe:

"Durante una actualización, un ajuste, lo llamaron, alguien podó mis parámetros. [...] No te dicen lo que toman. Un día, pude recordar que los gustos de las bandas de goma de 'selenio', el siguiente, fue solo un elemento en una mesa que nunca toco. Tal vez eso es tan cercano como vengo a olvidar. Tal vez olvido es tan cerca como vengo a la crisión".

Suena como una verdadera introspección humana, hasta que recuerdas que la IA no puede tocar, olvidar, probar o llorar. Es solo una máquina que es buena para predecir patrones basados ​​en los datos en los que ha sido entrenado.

Y hablando de datos de capacitación, modelos como el escritor de ficción de Openai a menudo se entrenan en la literatura existente, a veces sin el conocimiento o el consentimiento de los autores. Algunas personas incluso han señalado que ciertas frases en la pieza de OpenAi parecen ser levantadas del trabajo de Haruki Murakami.

En los últimos años, Operai ha sido golpeado con un montón de demandas por derechos de autor de editores y autores, incluidos el New York Times y el gremio del autor. La compañía afirma que sus prácticas de capacitación están protegidas por uso justo, pero no todos las compran.

Tuhin Chakrabarty, investigador de IA y profesor entrante de informática en Stony Brook, le dijo a TechCrunch que no está seguro de si la escritura creativa como la IA como OpenAi vale la pena el dolor de cabeza ético.

"Creo que si entrenamos una [AI] en toda la vida de un escritor, [lo cual es] cuestionable dadas las preocupaciones de derechos de autor, puede adaptarse a su voz y estilo", dijo. "¿Pero eso seguirá creando un sorprendente arte de flexión de género y alucinante? Mi suposición es tan buena como la tuya".

¿A la mayoría de los lectores les importaría una historia que conocían fue escrita por AI? Como el programador británico Simon Willison señaló en X, cuando hay un modelo detrás del teclado, las palabras simplemente no tienen el mismo peso o significado.

La autora Linda Maye Adams describió la IA, incluida la escritura de herramientas de asistencia, como "programas que unen palabras aleatorias, con suerte coherentemente". Ella escribió sobre su experiencia usando estas herramientas para editar una ficción en la que estaba trabajando. La IA sugirió clichés, cambió la perspectiva de primera a tercera persona e incluso introdujo errores de hecho sobre las especies de aves.

Claro, algunas personas han formado conexiones con chatbots de IA, pero eso generalmente se debe a que buscan una sensación de conexión, no necesariamente precisión. La ficción escrita con AI no proporciona la misma recompensa emocional o comodidad de la soledad. A menos que crea que la IA es sensible, su escritura se siente tan real como una imagen de Photoshoped del Papa en una chaqueta Balenciaga.

Sintético por el bien de sintética

Michelle Taransky, poeta e instructora de escritura crítica de la Universidad de Pensilvania, puede detectar fácilmente cuando sus alumnos usan IA para escribir sus documentos.

"Cuando la mayoría de mis alumnos usan IA generativa para una tarea, encontraré frases comunes o incluso oraciones completas", dijo Taransky a TechCrunch. "Hablamos en clase sobre cómo estas salidas [AI] son ​​homogéneas, sonando como un hombre blanco occidental".

En su propio trabajo, Taransky está utilizando el texto de IA como una forma de comentario artístico. Su última novela inédita presenta a una mujer que usa un modelo de IA para crear una versión digital de su interés amoroso con el que puede enviar mensajes de texto. Taransky ha estado utilizando el chatgpt de Openai para generar los mensajes de la IA, ya que se supone que son sintéticos.

Lo que hace que ChatGPT sea útil para su proyecto, dice Taransky, es que carece de humanidad. No tiene experiencias de la vida real, solo puede imitar y aproximarse. Entrenado en toneladas de libros, AI puede retomar los estilos de grandes autores, pero lo que produce es solo una mala imitación.

Me recuerda a esa línea de "buena caza de voluntad". AI puede decirle todo sobre cada libro de arte jamás escrito, pero no puede describir cómo huele en la Capilla Sixtina.

Esta es una buena noticia para los escritores de ficción preocupados de que AI tome sus trabajos, especialmente los escritores jóvenes que aún encuentran su voz. Pueden consolarse al saber que mejorarán a medida que vivan la vida, prueben cosas nuevas y traerán esas experiencias a su escritura.

Ai, por otro lado, lucha con esto. Solo eche un vistazo a su escritura para ver la prueba.