El modelo O3 de OpenAI potencialmente más costoso de operar de lo que inicialmente pensó

# openai

Cuando Operai introdujo su modelo de AI de "razonamiento" de O3 en diciembre, se asociaron con los creadores de Arc-AGI, un punto de referencia diseñado para superar los límites de las capacidades de IA, para demostrar lo que O3 podría hacer. Avance rápido unos meses, y los resultados se han modificado, lo que demuestra que la actuación de O3 podría no ser tan deslumbrante como pensamos por primera vez. La semana pasada, la Fundación del Premio ARC, que supervisa ARC-AGI, revisó sus estimaciones sobre los costos informáticos para O3. Inicialmente, pensaron que la versión de alto rendimiento de O3, denominada O3 High, le costaría alrededor de $ 3,000 para descifrar un solo problema ARC-AGI. Pero ahora, están pensando que es más como $ 30,000 por tarea. ¡Ese es un salto considerable! Esta revisión arroja luz sobre cuán caros pueden ser los modelos de IA de vanguardia, especialmente en las primeras etapas. Operai aún no ha puesto un precio en O3, ni lo han lanzado al público. Sin embargo, la Fundación del Premio ARC sugiere que el precio del modelo O1-Pro de OpenAI podría darnos una idea aproximada de qué esperar. Para algún contexto, O1-Pro es actualmente el modelo más caro de OpenAI que se ofrece. Mike Knoop, cofundador de la Fundación del Premio ARC, compartido con TechCrunch, "Creemos que O1-Pro es una comparación más cercana del verdadero costo de O3 ... debido a la cantidad de computo de tiempo de prueba utilizado. Pero esto sigue siendo un proxy, y hemos mantenido O3 etiquetado como una vista previa en nuestra placa de clasificación para reflejar la incertidumbre hasta que se anuncian los precios oficiales". " Dada la potencia informática masiva que O3 High requiere, un alto precio no sería un shock. Según la Fundación del Premio ARC, O3 High aumentó 172 veces más recursos informáticos que O3 Low, la versión menos exigente de O3, solo para asumir tareas ARC-AGI. También ha habido mucho rumor sobre los posibles planes de precios de Openai para clientes empresariales. A principios de marzo, la información informó que OpenAI podría estar buscando cobrar hasta $ 20,000 al mes por "agentes" especializados de IA, como un agente de desarrolladores de software. Algunos podrían argumentar que incluso los modelos más caros de Openai siguen siendo una ganga en comparación con lo que le pagaría a un contratista o empleado humano. Pero como el investigador de IA Toby Ord señaló en X, estos modelos podrían no ser tan eficientes como esperamos. Por ejemplo, O3 High necesitaba la friolera de 1.024 intentos en cada tarea en Arc-AGI para alcanzar su mejor puntaje.

Artículo relacionado

comentario (45)