AI Power Surge: el CEO antrópico advierte sobre la raza para comprender

Justo después de que concluyó la cumbre de acción de IA en París, el cofundador y CEO de Anthrope, Dario Amodei, no se contuvo. Llamó al evento una "oportunidad perdida" y enfatizó que necesitamos aumentar el enfoque y la urgencia en varios temas clave, considerando qué tan rápido se mueve la tecnología AI. Compartió estos pensamientos en una declaración publicada el martes.

Anthrope se asoció con el polvo de la startup francesa para un evento centrado en el desarrollador en París, donde TechCrunch pudo charlar con AmoDei en el escenario. Compartió su perspectiva y presionó para un enfoque equilibrado para la innovación y la gobernanza de la IA, sin evitar tanto el optimismo extremo como las duras críticas.

Amodei, que solía ser un neurocientífico, dijo: "Básicamente busqué un cerebro real para ganarse la vida. Y ahora estamos buscando cerebros artificiales dentro de los cerebros artificiales. Así que, en los próximos meses, tendremos algunos avances emocionantes en el área de la interpretabilidad, donde realmente estamos comenzando a entender cómo operan los modelos". Pero también señaló que es una carrera. "Es una carrera entre hacer que los modelos sean más poderosos, lo cual es increíblemente rápido para nosotros e increíblemente rápido para los demás, realmente no puedes reducir la velocidad, ¿verdad? ... Nuestra comprensión tiene que mantener nuestra capacidad de construir cosas. Creo que esa es la única forma", agregó.

Desde la primera cumbre de IA en Bletchley, Reino Unido, la conversación sobre la gobernanza de la IA ha cambiado mucho, influenciada por el clima geopolítico actual. El vicepresidente de EE. UU. JD Vance, hablando en la Cumbre de Acción de AI, dijo: "No estoy aquí esta mañana para hablar sobre la seguridad de AI, que fue el título de la conferencia hace un par de años. Estoy aquí para hablar sobre la oportunidad de AI".

Amodei, sin embargo, está tratando de cerrar la brecha entre la seguridad y la oportunidad. Él cree que centrarse más en la seguridad puede ser una oportunidad. "En la cumbre original, la Cumbre de Bletchley en el Reino Unido, hubo muchas discusiones sobre pruebas y medidas para varios riesgos. Y no creo que estas cosas ralentizaran mucho la tecnología", dijo en el evento antrópico. "En todo caso, hacer este tipo de medición nos ha ayudado a comprender mejor nuestros modelos, lo que al final nos ayuda a producir mejores modelos".

Incluso al enfatizar la seguridad, Amodei dejó en claro que el antrópico todavía está en la construcción de modelos de IA fronteriza. "No quiero hacer nada para reducir la promesa. Estamos proporcionando modelos todos los días en los que las personas pueden construir y que se usan para hacer cosas increíbles. Y definitivamente no debemos dejar de hacerlo", dijo. Más tarde, agregó: "Cuando la gente habla mucho sobre los riesgos, me molesta y digo: 'Oh, hombre, nadie ha hecho un buen trabajo al exponer lo bien que podría ser esta tecnología'".

Cuando el tema recurrió a los modelos recientes del fabricante de LLM Deepseek chino, Amodei minimizó sus logros, llamando a la reacción pública "inorgánica". Él dijo: "Honestamente, mi reacción fue muy pequeña. Habíamos visto V3, que es el modelo base para Deepseek R1, en diciembre. Y ese fue un modelo impresionante. El modelo que se lanzó en diciembre estaba en este tipo de curva de reducción de costos muy normal que hemos visto en nuestros modelos y otros modelos". Lo que llamó su atención fue que el modelo no provenía de los habituales "laboratorios de tres o cuatro fronteras" en los Estados Unidos, como Google, OpenAi y Anthrope. Expresó preocupación por los gobiernos autoritarios que dominan la tecnología. En cuanto a los costos de capacitación reclamados de Deepseek, los descartó como "simplemente no precisos y no basados ​​en hechos".

Si bien AmoDei no anunció ningún modelo nuevo en el evento, insinuó los próximos lanzamientos con capacidades de razonamiento mejoradas. "Generalmente estamos enfocados en tratar de hacer nuestra propia opinión sobre los modelos de razonamiento que están mejor diferenciados. Nos preocupamos por asegurarnos de que tengamos suficiente capacidad, que los modelos se vuelvan más inteligentes y nos preocupemos por las cosas de seguridad", dijo.

Anthrope también está abordando el desafío de selección de modelos. Si es un usuario de ChatGPT Plus, por ejemplo, puede ser difícil decidir qué modelo usar para su próximo mensaje.

AModei cuestionó la distinción entre modelos normales y de razonamiento. "Hemos estado un poco desconcertados por la idea de que hay modelos normales y que hay modelos de razonamiento y que son algo diferentes entre sí", dijo. "Si estoy hablando contigo, no tienes dos cerebros y uno de ellos responde de inmediato y me gusta, el otro espera más tiempo".

Él cree que debería haber una transición más suave entre los modelos previamente capacitados como el soneto Claude 3.5 o GPT-4O y modelos entrenados con aprendizaje de refuerzo que puede producir una cadena de pensamientos (COT), como el O1 o Deepseek's R1 de Openii. "Creemos que estos deberían existir como parte de una sola entidad continua. Y es posible que aún no estemos allí, pero Anthrope realmente quiere mover las cosas en esa dirección", dijo Amodei. "Deberíamos tener una transición más suave de eso a los modelos previamente capacitados, en lugar de 'aquí está la cosa A y aquí está la cosa B.'"

A medida que las compañías de IA como Anthrope siguen presionando mejores modelos, AModei ve un gran potencial para la interrupción entre las industrias. "Estamos trabajando con algunas compañías farmacéuticas para usar Claude para escribir estudios clínicos, y han podido reducir el tiempo que lleva escribir el informe del estudio clínico de 12 semanas a tres días", dijo.

Él imagina un "renacimiento de la innovación disruptiva" en aplicaciones de IA en sectores como legal, financiero, seguro, productividad, software y energía. "Creo que habrá, básicamente, un renacimiento de la innovación disruptiva en el espacio de aplicaciones de IA. Y queremos ayudarlo, queremos apoyarlo todo", concluyó.

Lea nuestra cobertura completa de la Cumbre de Acción de Inteligencia Artificial en París.

¡TechCrunch tiene un boletín centrado en AI! Regístrese aquí para obtenerlo en su bandeja de entrada todos los miércoles.