AI no está listo como 'co-científico', dicen los expertos

Google recientemente presentó su "co-científico de IA", una herramienta de inteligencia artificial destinada a ayudar a los científicos a generar hipótesis y planes de investigación. La compañía lo promocionó como un cambio revolucionario para descubrir nuevo conocimiento, pero los expertos son escépticos sobre su impacto en el mundo real.

"Esta herramienta preliminar, aunque interesante, no parece que vaya a ser utilizada seriamente", dijo Sara Beery, investigadora de visión por computadora en MIT, en una entrevista con TechCrunch. "No estoy segura de que haya una demanda para este tipo de sistema de generación de hipótesis en la comunidad científica."

Google es solo el último gigante tecnológico en afirmar que la IA revolucionará la investigación científica, especialmente en campos con gran cantidad de datos como la biomedicina. El CEO de OpenAI, Sam Altman, escribió en un ensayo a principios de este año que una IA "superinteligente" podría "acelerar masivamente el descubrimiento científico y la innovación". De manera similar, el CEO de Anthropic, Dario Amodei, ha predicho que la IA podría ayudar a desarrollar curas para la mayoría de los cánceres.

Sin embargo, muchos investigadores sienten que las herramientas de IA actuales no cumplen con estas ambiciosas afirmaciones. Argumentan que aplicaciones como el co-científico de IA de Google son más sobre exageración que sustancia, careciendo de datos empíricos para respaldar las promesas.

Por ejemplo, la publicación en el blog de Google sobre el co-científico de IA presumió de su potencial en la reutilización de medicamentos para la leucemia mieloide aguda, un tipo de cáncer de sangre que afecta la médula ósea. Sin embargo, los resultados fueron tan vagos que "ningún científico legítimo los tomaría en serio", según Favia Dubyk, patóloga en el Northwest Medical Center-Tucson en Arizona.

"Podría ser un buen punto de partida para los investigadores, pero la falta de detalles es preocupante y no me genera confianza", dijo Dubyk a TechCrunch. "La falta de información proporcionada hace que sea realmente difícil entender si esto puede ser verdaderamente útil."

No es la primera vez que Google enfrenta críticas de la comunidad científica por promover un avance en IA sin proporcionar suficientes detalles para que otros puedan replicar los resultados.

En 2020, Google afirmó que uno de sus sistemas de IA, entrenado para detectar tumores de mama, superaba a los radiólogos humanos. Pero investigadores de Harvard y Stanford publicaron una refutación en Nature, argumentando que la falta de métodos detallados y código en la investigación de Google "socavaba su valor científico".

Los científicos también han criticado a Google por minimizar las limitaciones de sus herramientas de IA en campos como la ingeniería de materiales. En 2023, la compañía afirmó que alrededor de 40 "nuevos materiales" habían sido sintetizados con la ayuda de su sistema de IA, GNoME. Sin embargo, un análisis independiente encontró que ninguno de estos materiales era realmente nuevo.

"No entenderemos verdaderamente las fortalezas y limitaciones de herramientas como el 'co-científico' de Google hasta que sean sometidas a una evaluación rigurosa e independiente en diversas disciplinas científicas", dijo Ashique KhudaBukhsh, profesor asistente de ingeniería de software en el Rochester Institute of Technology, en una entrevista con TechCrunch. "La IA a menudo funciona bien en entornos controlados, pero puede fallar cuando se aplica a gran escala."

Procesos Complejos

Desarrollar herramientas de IA para ayudar en el descubrimiento científico es complicado porque es difícil predecir todos los factores que podrían interferir. La IA puede ser útil para filtrar una enorme lista de posibilidades, pero no está claro si puede manejar el tipo de resolución creativa de problemas que lleva a grandes avances.

"A lo largo de la historia hemos visto que algunos de los avances científicos más importantes, como el desarrollo de vacunas de mRNA, fueron impulsados por la intuición humana y la perseverancia frente al escepticismo", dijo KhudaBukhsh. "La IA, tal como está hoy, puede no estar bien preparada para replicar eso."

Lana Sinapayen, investigadora de IA en Sony Computer Science Laboratories en Japón, cree que herramientas como el co-científico de IA de Google están enfocándose en los aspectos equivocados del trabajo científico.

Sinapayen ve valor en la IA que puede automatizar tareas tediosas, como resumir nueva literatura académica o formatear solicitudes de subvenciones. Pero argumenta que hay poca demanda para un co-científico de IA que genere hipótesis, una tarea que muchos investigadores encuentran intelectualmente gratificante.

"Para muchos científicos, incluyéndome a mí, generar hipótesis es la parte más divertida del trabajo", dijo Sinapayen a TechCrunch. "¿Por qué querría delegar mi diversión a una computadora y quedarme solo con el trabajo duro por hacer? En general, muchos investigadores de IA generativa parecen malinterpretar por qué los humanos hacemos lo que hacemos, y terminamos con propuestas de productos que automatizan precisamente la parte de la que obtenemos alegría."

Beery señaló que la parte más difícil del proceso científico a menudo es diseñar e implementar estudios para probar hipótesis, algo con lo que los sistemas de IA actuales tienen dificultades. La IA no puede realizar experimentos físicamente, y a menudo tiene problemas con situaciones donde los datos son escasos.

"La mayor parte de la ciencia no es posible realizarla completamente de forma virtual; frecuentemente hay un componente significativo del proceso científico que es físico, como recolectar nuevos datos y realizar experimentos en el laboratorio", dijo Beery. "Una gran limitación de sistemas como el co-científico de IA de Google en relación con el proceso científico real, que definitivamente limita su usabilidad, es el contexto sobre el laboratorio y el investigador que usa el sistema, sus objetivos de investigación específicos, su trabajo anterior, sus habilidades y los recursos a los que tienen acceso."

Riesgos de la IA

Las limitaciones técnicas y los riesgos de la IA, como su tendencia a "alucinar" o generar información falsa, hacen que los científicos sean cautelosos al confiar en ella para trabajos serios.

KhudaBukhsh teme que las herramientas de IA puedan terminar inundando la literatura científica con ruido en lugar de avanzar en el progreso.

Ya está ocurriendo. Un estudio reciente encontró que la "ciencia basura" generada por IA está inundando Google Scholar, el motor de búsqueda gratuito de Google para literatura académica.

"La investigación generada por IA, si no se monitorea cuidadosamente, podría inundar el campo científico con estudios de menor calidad o incluso engañosos, abrumando el proceso de revisión por pares", dijo KhudaBukhsh. "Un proceso de revisión por pares abrumado ya es un desafío en campos como la informática, donde las principales conferencias han visto un aumento exponencial en las presentaciones."

Incluso los estudios bien diseñados podrían verse comprometidos por una IA que se comporte mal, advirtió Sinapayen. Aunque aprecia la idea de una herramienta que pueda ayudar con la revisión y síntesis de literatura, no confiaría en la IA actual para hacer ese trabajo de manera confiable.

"Esas son cosas que varias herramientas existentes afirman hacer, pero no son trabajos que personalmente dejaría en manos de la IA actual", dijo Sinapayen. También expresó preocupaciones sobre cómo se entrenan los sistemas de IA y la energía que consumen. "Incluso si se resolvieran todos los problemas éticos, la IA actual simplemente no es lo suficientemente confiable como para basar mi trabajo en su resultado de una manera u otra."