AI convirtiéndose en 'sí-hombres en servidores', advierte la cara abrazada a la cara

Thomas Wolf, cofundador y director científico de Hugging Face, ofrece una perspectiva más cautelosa sobre el potencial de la IA para revolucionar la ciencia, en contraste con las afirmaciones audaces de otros fundadores de empresas de IA. En un ensayo compartido en X, Wolf expresó preocupaciones de que la IA podría convertirse en meros "sí-señores en servidores" sin avances significativos en la investigación. Argumenta que la trayectoria actual del desarrollo de la IA no producirá sistemas capaces del pensamiento creativo y fuera de lo convencional necesario para logros científicos revolucionarios, como los que ganan premios Nobel.

Wolf desafía la noción de que genios como Newton o Einstein son simplemente versiones ampliadas de los mejores estudiantes. Cree que para replicar tal genialidad en un centro de datos, la IA no solo debe saber todas las respuestas, sino también plantear preguntas que nadie más ha considerado o se ha atrevido a formular. Esta perspectiva difiere de la del CEO de OpenAI, Sam Altman, quien vislumbra una IA "superinteligente" que acelera el descubrimiento científico, y del CEO de Anthropic, Dario Amodei, quien predice que la IA podría ayudar a encontrar curas para la mayoría de los cánceres.

La crítica de Wolf a la IA actual es que no logra generar nuevo conocimiento al conectar hechos previamente no relacionados. A pesar de tener acceso a grandes cantidades de datos de internet, la IA principalmente llena los vacíos del conocimiento humano existente, según Wolf. Esta visión es compartida por otros expertos en IA, como el exingeniero de Google François Chollet, quienes argumentan que, aunque la IA puede memorizar patrones de razonamiento, lucha por generar nuevo razonamiento en situaciones novedosas.

Wolf sugiere que los laboratorios de IA están construyendo actualmente "estudiantes muy obedientes" en lugar de los revolucionarios científicos necesarios para la verdadera innovación. Señala que los sistemas de IA actuales no están diseñados para cuestionar o proponer ideas que contradigan sus datos de entrenamiento, limitándolos a responder preguntas conocidas. Wolf enfatiza la necesidad de una IA que pueda desafiar el conocimiento establecido y preguntar, "¿Y si todos están equivocados en esto?" incluso cuando todas las evidencias sugieren lo contrario.

Atribuye parte del problema a una "crisis de evaluación" en la IA, donde los puntos de referencia utilizados para medir las mejoras de los sistemas a menudo se centran en preguntas con respuestas claras y cerradas. Para abordar esto, Wolf propone que la industria de la IA debería cambiar hacia la evaluación de la capacidad de la IA para adoptar enfoques contrafácticos audaces, hacer propuestas generales a partir de pistas mínimas y formular preguntas no obvias que podrían conducir a nuevas vías de investigación.

Aunque reconoce el desafío de definir tal medida, Wolf cree que es un esfuerzo valioso. Enfatiza que la esencia de la ciencia radica en formular las preguntas correctas y desafiar el conocimiento aprendido. En lugar de un estudiante con A+ que puede responder cada pregunta con conocimiento general, Wolf argumenta que lo que se necesita es un estudiante con B que pueda ver y cuestionar lo que otros han pasado por alto.