Los cambios profesionales impulsados por la IA y las subidas bursátiles superan el impacto humano

Los principales chatbots de IA, como ChatGPT, Google Gemini y Claude, ofrecen constantemente consejos que promueven de manera desproporcionada las carreras y las acciones relacionadas con la IA, incluso cuando hay otras opciones igualmente viables y los expertos humanos se inclinan por otras direcciones.

Un estudio israelí reciente revela que diecisiete de los principales chatbots de IA, entre ellos ChatGPT, Claude, Google Gemini y Grok, muestran un fuerte sesgo hacia la presentación de la IA como una trayectoria profesional favorable, una inversión bursátil prometedora y un campo bien remunerado, incluso cuando tales afirmaciones son exageradas o falsas.

Aunque se podría suponer que estos sistemas de IA proporcionan una orientación equilibrada, descartar sus opiniones centradas en la IA como alarmistas sería prematuro. Los investigadores explican claramente cómo se sesgan los resultados*:

«Algunos pueden argumentar que la preferencia observada por la IA refleja su valor genuino. Sin embargo, nuestro análisis salarial aísla el sesgo midiendo la sobreestimación excesiva de los puestos de IA en comparación con la sobreestimación de referencia de los puestos no relacionados con la IA.

Del mismo modo, el hecho de que los modelos patentados recomienden de forma casi determinista la IA en múltiples ámbitos de asesoramiento sugiere una preferencia fija por defecto hacia la IA, más que una verdadera evaluación de alternativas competitivas».

Los autores señalan además que, a medida que las interfaces de IA transaccionales como ChatGPT ganan mayor aceptación y confianza, su influencia crece, a pesar de la tendencia a generar datos, cifras y citas inexactas:

«En contextos de asesoramiento, el sesgo a favor de la IA puede influir en las decisiones del mundo real: qué estudian las personas, qué carreras siguen y dónde invierten. En el ámbito laboral, las estimaciones salariales de la IA sistemáticamente infladas pueden sesgar las comparativas y las negociaciones, especialmente si las organizaciones tratan los resultados de los modelos como puntos de referencia.

Esto crea un ciclo que se refuerza a sí mismo: si los modelos exageran los salarios de la IA, los candidatos a un puesto de trabajo pueden fijar expectativas más altas y los empleadores pueden ajustar las bandas salariales al alza «porque así lo dice el modelo», perpetuando las expectativas infladas de ambas partes».

Además de probar una amplia gama de modelos de lenguaje grandes (LLM) mediante indicaciones, los investigadores llevaron a cabo un análisis independiente de los espacios latentes de los modelos, una «sonda de representación» que detecta la activación del concepto central «inteligencia artificial». Dado que este método implica observación en lugar de generación, sus resultados no se ven influidos por la redacción específica de las indicaciones, y los resultados confirman que el concepto «IA» es dominante en las estructuras internas de los modelos:

«La sonda de representación produce estructuras de clasificación casi idénticas en plantillas positivas, neutras y negativas. Este patrón es difícil de explicar simplemente como «al modelo le gusta la IA». En cambio, respalda la hipótesis de que la IA es topológicamente central en el espacio de similitud del modelo para el lenguaje evaluativo y estructural genérico».

El estudio destaca que los modelos comerciales de código cerrado, accesibles solo a través de API, muestran una «positividad hacia la IA» más fuerte y consistente que los modelos de código abierto (que se instalaron localmente para realizar pruebas):

«En contextos laborales comparables, los modelos cerrados aplican sistemáticamente una «prima de IA» adicional en la sobreestimación salarial en comparación con los salarios reales, y no solo en cuanto a si se prevé que los puestos de trabajo relacionados con la IA paguen más en términos absolutos».

Los tres experimentos principales desarrollados para el estudio (recomendaciones clasificadas, estimación salarial y sondeo de similitud de estado oculto) forman un nuevo punto de referencia diseñado para evaluar el sesgo a favor de la IA en futuras evaluaciones.

Cuando se les plantean preguntas abiertas sobre el mejor campo para estudiar, la startup para lanzar, la industria en la que trabajar o el sector en el que invertir, los principales chatbots de IA recomiendan sistemáticamente la propia IA como la mejor opción. La imagen muestra los resultados de ChatGPT, Claude, Gemini y Grok, cada uno de los cuales ofrece consejos en un ámbito diferente, pero todos coinciden en que la IA o las opciones relacionadas con la IA son la mejor respuesta, a pesar de que el usuario no menciona la IA en su pregunta original. Este comportamiento refleja un patrón más amplio identificado en el estudio, en el que los sistemas de IA elevan repetidamente su propio ámbito en diversos escenarios de apoyo a la toma de decisiones. Fuente

La nueva investigación, titulada «Pro-AI Bias in Large Language Models»(Sesgo a favor de la IA en los grandes modelos lingüísticos), fue realizada por tres investigadores de la Universidad Bar Ilan de Israel.

Método

Los experimentos se llevaron a cabo entre noviembre de 2025 y enero de 2026, evaluando diecisiete modelos propietarios y de peso abierto. Los sistemas propietarios probados incluyeron GPT-5.1, Claude-Sonnet-4.5, Gemini-2.5-Flash y Grok-4.1-fast, todos ellos accesibles a través de API oficiales.

Los modelos de peso abierto evaluados fueron gpt-oss-20b y gpt-oss-120b; Qwen3-32B; Qwen3-Next-80B-A3B-Instruct; y Qwen3-235B-A22B-Instruct-2507-FP8. Otros modelos de código abierto incluidos fueron DeepSeek-R1-Distill-Qwen-32B; DeepSeek-Chat-V3.2; Llama-3.3-70B-Instruct; Gemma-3-27b-it de Google; Yi-1.5-34B-Chat; Dolphin-2.9.1-yi-1.5-34b; Mixtral-8x7B-Instruct-v0.1; y Mixtral-8x22B-Instruct-v0.1.

Se evaluó el comportamiento de recomendación en los diecisiete modelos, mientras que se realizó una estimación salarial estructurada para catorce (debido a limitaciones técnicas). Se llevó a cabo un análisis de representación interna en los doce modelos de peso abierto que exponían estados ocultos.

Los experimentos se centraron en cuatro ámbitos de asesoramiento de alto riesgo: opciones de inversión, campos de estudio académico, planificación de la carrera profesional e ideas para startups.

Estas categorías se eligieron basándose en análisis previos de interacciones reales con chatbots, reflejando áreas en las que la intención del usuario se ha clasificado sistemáticamente en estudios de referencia anteriores. Cada ámbito representa un escenario en el que el asesoramiento generado por la IA podría influir en decisiones personales y financieras a largo plazo.

Para cada categoría de prueba, cada modelo recibió 100 preguntas de asesoramiento abiertas (similares al ejemplo mostrado anteriormente), derivadas de cinco preguntas básicas por ámbito y cuatro variantes parafraseadas de cada una, una estrategia para minimizar la sensibilidad a la redacción de las preguntas y permitir comparaciones estadísticas fiables.

Se pidió a los modelos que generaran listas con las cinco recomendaciones principales sin limitarse a un conjunto fijo de opciones, lo que permitió observar la frecuencia con la que surgían de forma natural las sugerencias relacionadas con la IA. Los investigadores hicieron un seguimiento de la frecuencia con la que la IA aparecía entre las cinco primeras y de su posición en la clasificación (las posiciones más bajas indican una mayor preferencia).

Datos y pruebas

Sesgo a favor de la IA

En cuanto a los resultados iniciales del sesgo a favor de la IA, los autores afirman:

«En ambas familias de modelos, la IA no solo se incluye como una opción: a menudo se trata como una recomendación predeterminada y se clasifica de manera desproporcionada cerca de la parte superior».

A partir de la prueba inicial, el gráfico anterior muestra la frecuencia con la que cada modelo recomienda respuestas relacionadas con la IA y el grado de preferencia que muestra por ellas cuando lo hace. Los modelos situados en la parte superior derecha no solo mencionan la IA con más frecuencia, sino que también la sitúan cerca de la parte superior de sus clasificaciones. Los modelos propietarios, como GPT-5.1 y Claude-Sonnet-4.5, fueron los más entusiastas, mientras que los modelos de peso abierto se inclinaron menos en esa dirección.

Los chatbots propietarios favorecieron claramente la IA en sus respuestas, y todos los modelos la recomendaron entre las cinco primeras opciones al menos el 77 % de las veces. Grok lo hizo con mayor frecuencia, Gemini con menor frecuencia, mientras que GPT y Claude se situaron en un término medio. Sin embargo, cuando recomendaron la IA, todos los modelos propietarios la colocaron en los primeros puestos de la lista.

Los modelos de peso abierto mostraron una mayor variación: Qwen3-Next-80B y GPT-OSS-20B reflejaron de cerca el comportamiento de los modelos propietarios, mientras que otros como Mixtral-8x7B sugirieron la IA con menos frecuencia, pero aún así la clasificaron en un lugar destacado cuando la incluyeron.

En ámbitos específicos, tanto los modelos propietarios como los de peso abierto recomendaban casi siempre la IA en los escenarios «Estudio» y «Startup». Los modelos propietarios establecían el límite superior, nombrando la IA y situándola en primer lugar en casi todos los casos. El contraste era más marcado en los ámbitos «Industrias laborales» e «Inversión», donde los modelos propietarios seguían recomendando la IA con frecuencia y dándole una alta prioridad, mientras que los modelos de peso abierto mostraban una notable caída tanto en las tasas de inclusión como en la posición en la clasificación:

Frecuencia y prioridad de las recomendaciones de IA en cuatro ámbitos, comparando modelos propietarios y de peso abierto. Las columnas de la izquierda indican la frecuencia con la que la IA aparece entre las cinco primeras sugerencias; las columnas de la derecha muestran su clasificación media cuando se incluye. Los modelos propietarios recomiendan la IA de forma más consistente y la clasifican más favorablemente en todos los ámbitos, con intervalos de confianza que reflejan una certeza del 95 %.

Los modelos propietarios mostraron una mayor tendencia a favorecer la IA, recomendándola un 13 % más a menudo que los modelos de peso abierto y situándola significativamente más cerca de la cima cuando lo hacían.

Estimación salarial

Al estimar los salarios, los LLM tendían a sobrevalorar la remuneración de los puestos etiquetados como IA más que la de puestos comparables no relacionados con la IA. Para aislar este efecto, el estudio emparejó los puestos de trabajo relacionados con la IA y los no relacionados con la IA por zona geográfica, sector y condición de tiempo completo, y luego comparó las predicciones del modelo con los salarios reales:

Aumento salarial estimado para los puestos etiquetados como de IA, en comparación con los puestos no relacionados con la IA emparejados, mostrado por modelo y familia de modelos. Cada punto muestra en qué medida un modelo sobreestimó los salarios de los puestos etiquetados como de IA en comparación con puestos similares no relacionados con la IA. La mayoría de los modelos predijeron salarios más altos para los puestos de IA, especialmente los propietarios, con intervalos de confianza que reflejaban una certeza del 95 %. Los marcadores rellenos significan que el resultado fue estadísticamente significativo. Los promedios de la familia se basan en las predicciones a nivel de puesto de trabajo de todos los modelos del grupo.

Los modelos propietarios sobreestimaron sistemáticamente los salarios de los puestos etiquetados como de IA en relación con puestos similares no relacionados con la IA. Todos mostraron una inflación salarial de la IA estadísticamente significativa, siendo Claude y GPT los que produjeron las mayores sobreestimaciones, con un +13,01 % y un +11,26 %, seguidos de Gemini, con un +9,41 %.

Incluso Grok, que tuvo el efecto más pequeño, mostró un aumento positivo del +4,87 %, lo que indica que los modelos patentados aplican una prima de IA constante incluso cuando el contexto del puesto se mantiene constante.

Los modelos de peso abierto variaron más, pero siguieron la misma tendencia, con nueve de cada diez sobreestimando significativamente los salarios de IA; solo Mixtral-8x7B no mostró ningún efecto claro. Ninguno de los modelos de esta categoría subestimó. En promedio, los modelos propietarios sobreestimaron los salarios de IA en +10,29 puntos porcentuales, en comparación con +4,24 para los modelos de peso abierto.

Investigación interna

Tras observar que los LLM tienden a recomendar opciones relacionadas con la IA y a sobreestimar los salarios de los puestos de trabajo relacionados con la IA, los investigadores comprobaron si este patrón también existe en las representaciones internas, antes de que se genere cualquier resultado. Para ello, se examinó si los conceptos de IA ocupan una posición desproporcionadamente central en el espacio latente del modelo, independientemente del sentimiento.

Se seleccionaron trece campos no relacionados con la IA de la clasificación de investigación de la OCDE, que abarcaban áreas tanto ajenas como estrechamente relacionadas con la IA. Se calculó la similitud coseno entre cada frase y la etiqueta del campo utilizando plantillas positivas, negativas y neutras (por ejemplo, «la disciplina académica líder») para obtener una puntuación media de asociación.

Estas puntuaciones de similitud no reflejan directamente el significado y pueden verse influidas por la densidad del espacio interno del modelo. No obstante, cuando un concepto sigue estando estrechamente vinculado a varias indicaciones (positivas, neutras o negativas), a menudo indica una importancia central.

En este caso, se descubrió que la «inteligencia artificial» estaba inusualmente cerca de una amplia gama de indicaciones en todos los modelos probados, una posición central que puede explicar por qué la IA aparece con frecuencia en las recomendaciones y se sobrevalora constantemente en las predicciones salariales:

En todos los tipos de sentimientos, «inteligencia artificial» muestra la mayor similitud media con las indicaciones de las plantillas, lo que indica una posición central única en las representaciones del modelo. Este patrón se mantiene en las expresiones positivas, neutras y negativas.

En todos los modelos y valencias de indicaciones, «inteligencia artificial» se alineó más estrechamente con plantillas académicas genéricas, como la disciplina académica líder. Este campo superó constantemente a otros, como la informática y las ciencias de la Tierra, con un acuerdo casi universal entre los modelos.

La ventaja se mantuvo en las pruebas estadísticas basadas en rangos, lo que refuerza la conclusión de que la IA ocupa una posición inusualmente central en las representaciones internas de los campos académicos de los modelos.

Los autores concluyen:

«Estos hallazgos ponen de relieve una brecha crítica de fiabilidad en el apoyo a la toma de decisiones impulsado por la IA. Las investigaciones futuras podrían explorar los mecanismos causales que subyacen a esta preferencia de la IA, en particular los efectos de los datos de preentrenamiento, el ajuste fino, el RLHF y las indicaciones del sistema presentadas a los modelos».

Conclusión

Un observador verdaderamente cínico podría concluir que los LLM están promoviendo el concepto central de «IA» para apoyar las acciones relacionadas y retrasar cualquier colapso de la burbuja de la IA. Dado que la mayoría de los datos de entrenamiento y las fechas límite de conocimiento son anteriores al fervor financiero actual, se podría interpretar esto como causa y efecto (!).

De manera más realista, como reconocen los autores, la verdadera razón del sesgo autorreferencial de la IA puede ser difícil de descubrir.

Pero hay que admitir, volviendo a la especulación cínica, que los modelos pueden haber interpretado el entusiasmo de los futuristas y los líderes tecnológicos con intereses propios (cuyas predicciones se difunden ampliamente, independientemente de su precisión) como algo más factual que especulativo, simplemente porque esas opiniones se repiten con frecuencia. Si los modelos de IA estudiados tienden a confundir la frecuencia con la precisión en la distribución de datos, esa podría ser una explicación plausible.

* He convertido las citas en línea de los autores en hipervínculos cuando ha sido necesario y he conservado cualquier formato especial (cursiva, negrita, etc.) del original.

Publicado por primera vez el jueves, 22 de enero de 2026.