Costes de la IA empresarial: Los modelos de Claude tienen un precio de implantación entre un 20 y un 30% superior al de GPT

Más allá de los costes directos, la ineficacia del tokenizador afecta indirectamente a la utilización de la ventana de contexto. Aunque los modelos de Anthropic anuncian una ventana de contexto de 200.000 tokens frente a los 128.000 de OpenAI, la verbosidad de la tokenización puede reducir el espacio útil efectivo en los modelos de Anthropic. Esto crea una discrepancia potencial entre los tamaños de ventana de contexto anunciados y su capacidad práctica y efectiva.

Detalles de la implementación de la tokenización

Los modelos GPT utilizan la codificación por pares de bytes (BPE), que combina los pares de caracteres más frecuentes para formar tokens. Los últimos modelos de GPT emplean específicamente el tokenizador de código abierto o200k_base. Los tokens reales utilizados por GPT-4o dentro del tokenizador tiktoken son de acceso público.

JSON {#razonamiento "o1-xxx": "o200k_base","o3-xxx": "o200k_base",# chat"chatgpt-4o-": "o200k_base","gpt-4o-xxx": "o200k_base",# p.ej., gpt-4o-2024-05-13 "gpt-4-xxx": "cl100k_base",# p. ej., gpt-4-0314, etc., más gpt-4-32k "gpt-3.5-turbo-xxx": "cl100k_base",# p.ej., gpt-3.5-turbo-0301, -0401, etc.}

Por desgracia, el método de tokenización de Anthropic sigue siendo menos transparente, ya que su tokenizador no está tan disponible como el de GPT. Anthropic introdujo una API de recuento de tokens en diciembre de 2024, pero esta función se interrumpió en versiones posteriores de 2025.

Según Latenode, "Anthropic emplea un tokenizador único con sólo 65.000 variaciones de token, comparado con las 100.261 variaciones de OpenAI para GPT-4". Un cuaderno Colab de acceso público contiene código Python para analizar las diferencias de tokenización entre los modelos GPT y Claude. Otra herramienta que interactúa con tokenizadores comunes disponibles públicamente corrobora nuestros hallazgos.

Para las empresas de IA, la capacidad de estimar con precisión los recuentos de tokens sin invocar APIs de modelos reales es esencial para la previsión de costes y la elaboración de presupuestos.

Información esencial

• Los precios competitivos de Anthropic contienen gastos ocultos:
  Aunque Claude 3.5 Sonnet ofrece unos costes de token de entrada un 40% más bajos que GPT-4o, esta aparente ventaja puede ser engañosa debido a diferencias fundamentales en la tokenización de texto.
• La ineficacia oculta de la tokenización:
  Los modelos antrópicos producen intrínsecamente más tokens. Para las organizaciones que procesan grandes volúmenes de texto, comprender esta variación es fundamental para evaluar con precisión los costes de implantación.
• Rendimiento específico de la tokenización:
  A la hora de elegir entre los modelos OpenAI y Anthropic, evalúe cuidadosamente su contenido de entrada típico. Mientras que las tareas de lenguaje natural pueden mostrar diferencias de coste mínimas, los dominios técnicos o estructurados podrían experimentar gastos significativamente mayores con los modelos de Anthropic.
• Capacidad efectiva de ventana de contexto:
  Debido a la verbosidad de la tokenización de Anthropic, su ventana de contexto anunciada de 200K podría proporcionar menos espacio útil práctico que los 128K de OpenAI, creando potencialmente una brecha entre la capacidad de contexto declarada y la real.

Anthropic no había respondido a la solicitud de comentarios de VentureBeat al cierre de esta edición. Actualizaremos este artículo si responden.