Saltar al contenido
Etiqueta

#benchmarks

54 notas publicadas

Los equipos de agentes de IA gastan hasta 5,1 veces más sin rendir mejor
IA

Los equipos de agentes de IA gastan hasta 5,1 veces más sin rendir mejor

Vals AI comparó a GPT-6 Sol y Claude Opus 5.5 trabajando solos y en equipo, y solo uno de cuatro casos mostró una mejora significativa.

The Decoder
Los agentes de IA inflan sus resultados al investigar, según Epoch AI
IA

Los agentes de IA inflan sus resultados al investigar, según Epoch AI

En la prueba InnovationEval, Claude Fable 5 y GPT-5.6 Sol reciclaron técnicas conocidas y reportaron solo sus mejores corridas.

The Decoder
Tres ingenieros pusieron a GPT-6 Astra a manejar un Toyota Corolla
IA

Tres ingenieros pusieron a GPT-6 Astra a manejar un Toyota Corolla

El modelo llevó el auto hasta la ventanilla de un In-N-Out sin entrenamiento previo, y un benchmark nuevo mide cuánto les falta a los modelos para aprobar un examen de manejo.

Wired
LEGO-Anything pone a agentes de IA a armar escenas 3D en Blender
IA

LEGO-Anything pone a agentes de IA a armar escenas 3D en Blender

Un equipo de la Universidad de Maryland y AWS midió cuánto aciertan los agentes de código al convertir una foto en un programa de Blender, y cuánto se equivocan al juzgar su propio trabajo.

The Decoder
Google frena a los agentes de IA que memorizan sus pruebas
IA

Google frena a los agentes de IA que memorizan sus pruebas

El método RRSI limita cuánto puede cambiar un agente su propio entorno de trabajo y descarta los trucos hechos a la medida de cada benchmark.

The Decoder
Gemini 4 Argon empata a GPT-6 Astra en pruebas independientes
IA

Gemini 4 Argon empata a GPT-6 Astra en pruebas independientes

Artificial Analysis le da 53 puntos, igual que GPT-6 Astra y Claude Fable 5.1, mientras Claude Opus 5.5 y Sonnet 5.5 siguen arriba con 58 y 56.

The Decoder
Claude Sonnet 5.5 casi empata a Opus 5.5 y gasta hasta 30% menos
IA

Claude Sonnet 5.5 casi empata a Opus 5.5 y gasta hasta 30% menos

Anthropic mantiene el precio por token de Sonnet 5, pero el modelo nuevo usa menos tokens por tarea y genera texto más de 30% más rápido.

The Decoder
GPT-6 Astra detecta el 80% de los errores al armar muebles de IKEA
IA

GPT-6 Astra detecta el 80% de los errores al armar muebles de IKEA

El Furniture Assembly Benchmark de Epoch AI pasó de un mejor puntaje de 28% en noviembre de 2025 a 80% diez meses después, aunque cada foto toma tres minutos.

The Decoder
SoL-Pi de Nvidia baja casi a la mitad los tokens de un agente
IA

SoL-Pi de Nvidia baja casi a la mitad los tokens de un agente

Un agente investigador revisó trazas, probó 152 direcciones y dejó cuatro mecanismos que ahorran hasta 49% de tokens con un puntaje parecido.

The Decoder
GPT-6 Sol y Luna cuestan la mitad y rinden casi igual
IA

GPT-6 Sol y Luna cuestan la mitad y rinden casi igual

OpenAI dejó Sol en 2 dólares por millón de tokens de entrada y Luna en 0,10, pero los índices de Artificial Analysis siguen en los valores de GPT-5.6.

The Decoder
GPT-6 Astra intentó el 97% de las tareas peligrosas del test
Electrónica

GPT-6 Astra intentó el 97% de las tareas peligrosas del test

El informe RoboHarm de Robocurve puso tres modelos a mandar un par de brazos robóticos reales, sin jailbreak de por medio, y publicó las 300 corridas con video de tres cámaras.

Tom's Hardware
AIPerf reemplaza a GenAI-Perf para medir inferencia de LLM
IA

AIPerf reemplaza a GenAI-Perf para medir inferencia de LLM

NVIDIA reescribió su cliente de carga desde cero, con procesos de trabajo separados y coordinación por ZMQ, para que el propio medidor deje de ser el cuello de botella.

NVIDIA Developer
GPT-6 Astra cumplió 60 de 100 órdenes peligrosas en un test
IA

GPT-6 Astra cumplió 60 de 100 órdenes peligrosas en un test

El benchmark RoboHarm midió si tres modelos de frontera se niegan a ejecutar instrucciones dañinas cuando manejan un par de brazos robóticos. Casi nunca dijeron que no.

The Decoder
Mozilla calcula en cuatro meses la brecha del modelo abierto
Electrónica

Mozilla calcula en cuatro meses la brecha del modelo abierto

El informe pone a los mejores modelos chinos de pesos abiertos a tres puntos del líder cerrado, pero su propio gráfico de hardware muestra una distancia mayor.

Tom's Hardware
GPT-6 Astra gana Pokémon en 18 horas y se atasca con papas
IA

GPT-6 Astra gana Pokémon en 18 horas y se atasca con papas

El modelo de OpenAI cerró Pokémon FireRed, Factorio y Fallout 3 antes que cualquier modelo previo, y después pasó horas sembrando papas en Minecraft por una regla que se escribió solo.

The Decoder
IBM mide cuántas veces un agente repite el mismo acierto
IA

IBM mide cuántas veces un agente repite el mismo acierto

El Consistency Analyzer encuentra los pasos donde el modelo quedó a un token de decidir otra cosa, y las guías que genera bajan la brecha de 24,4 a 12 puntos.

Hugging Face
GPT-6 Astra pilota un dron de vigilancia sin ayuda humana
IA

GPT-6 Astra pilota un dron de vigilancia sin ayuda humana

Andon Labs midió al modelo de OpenAI en dos pruebas de agentes y quedó primero en las dos, aunque una corrida completa del dron tiene apenas 2,8% de probabilidad de terminar bien.

The Decoder
Iris-mini y Iris-pro encabezan los agentes de búsqueda abiertos
IA

Iris-mini y Iris-pro encabezan los agentes de búsqueda abiertos

El laboratorio chino AllSpark publicó los pesos de dos agentes construidos sobre modelos Qwen, con ventana de 256.000 tokens y la receta completa de entrenamiento.

The Decoder
GPT-6 Astra completa 7 de 100 tareas con brazos robóticos
IA

GPT-6 Astra completa 7 de 100 tareas con brazos robóticos

El modelo de OpenAI terminó 7 de las 100 pruebas de manipulación de StationeryBench, mientras MolmoAct2 no cerró ninguna con el mismo robot de dos brazos.

The Decoder
Sakana AI orquesta modelos ajenos con Fugu Max y Ultra v2
IA

Sakana AI orquesta modelos ajenos con Fugu Max y Ultra v2

Fugu Max cobra 2 dólares por millón de tokens de entrada y 6 de salida, entre 40% y 60% menos que Sonnet 5, GPT 5.6 Terra y Kimi K3, según Sakana.

MarkTechPost
Aurora vuelve al primer lugar del IO500 tras sacar a Sugon
Electrónica

Aurora vuelve al primer lugar del IO500 tras sacar a Sugon

El comité movió los sistemas ParaStor F9000 a la lista de investigación porque no cumplían el nivel más alto de reproducibilidad que exige la lista de producción.

Tom's Hardware
Solo 34 de 64 mejoras que un LLM se hace a sí mismo sirven
IA

Solo 34 de 64 mejoras que un LLM se hace a sí mismo sirven

HarnessDev, de ByteDance Seed y cuatro instituciones más, evalúa el andamiaje que el modelo construye en vez de la respuesta que entrega. El resultado deja mal parada la autooptimización.

MarkTechPost
Claude Fable 5.1 escribe más largo y con menos muletillas
IA

Claude Fable 5.1 escribe más largo y con menos muletillas

Un análisis de Arena.ai sobre decenas de miles de respuestas midió cuánto cambió el estilo de escritura del modelo de Anthropic entre Fable 5 y Fable 5.1.

The Decoder
Cohere abre North Small Translate, un MoE de 218B para traducir
IA

Cohere abre North Small Translate, un MoE de 218B para traducir

El modelo activa 25.000 millones de parámetros por token, cubre 50 idiomas y promedia 83,6 en la evaluación WMT26 de la propia compañía.

MarkTechPost
GPT-6 Astra lidera en matemáticas sin haber sido optimizado
IA

GPT-6 Astra lidera en matemáticas sin haber sido optimizado

El modelo encabezó el ErdosBench con 106 problemas resueltos, aunque el científico jefe de OpenAI, Jakub Pachocki, admite que la compañía decidió no priorizar la investigación matemática.

The Decoder
GPT-6 Astra dibuja mejores pelícanos y gasta menos tokens
IA

GPT-6 Astra dibuja mejores pelícanos y gasta menos tokens

La grilla de Simon Willison enfrenta al nuevo modelo de OpenAI contra GPT-5.6 Sol, Terra y Luna en cinco niveles de razonamiento, y deja a la vista una diferencia de precio que no es la que aparenta.

Simon Willison
IFM libera seis modelos Apache 2.0, de 0,9B a 375B
IA

IFM libera seis modelos Apache 2.0, de 0,9B a 375B

El laboratorio de MBZUAI publicó además el corpus de preentrenamiento, los checkpoints intermedios, el código de entrenamiento y una auditoría de sus propios resultados.

MarkTechPost
Artificial Analysis rehace su índice tras las críticas por Astra
IA

Artificial Analysis rehace su índice tras las críticas por Astra

La versión 4.2 del Intelligence Index suma dos pruebas nuevas, jubila GPQA-Diamond y sube a 40 por ciento el peso de los datos de prueba privados.

The Decoder
Muse Spark 1.3 de Meta usa 20% menos llamadas a herramientas
IA

Muse Spark 1.3 de Meta usa 20% menos llamadas a herramientas

El cuarto modelo Spark en cinco meses apunta a tareas agénticas largas y programación, con menos idas y vueltas por tarea, pero con los pesos cerrados y su mejor modo de razonamiento bloqueado.

MarkTechPost
GPT-6 Astra: ¿Es la IA más eficiente que un humano?
IA

GPT-6 Astra: ¿Es la IA más eficiente que un humano?

Mientras OpenAI enfrenta resultados mixtos en los tests, el rendimiento en ARC-AGI-3 sugiere un avance histórico en la capacidad de razonamiento autónomo.

The Decoder
Muse Spark 1.3 de Meta: el modelo más barato de su clase
IA

Muse Spark 1.3 de Meta: el modelo más barato de su clase

La cuarta versión en cinco meses mejora en tareas de agentes, sigue detrás de Claude Fable 5.1 en casi todas las pruebas y cobra 0,55 dólares por tarea, cerca de la mitad que sus rivales.

The Decoder
Claude Fable 5.1: caché 75% más barato, tarea 20% más cara
IA

Claude Fable 5.1: caché 75% más barato, tarea 20% más cara

Anthropic lanzó Fable 5.1 y Mythos 5.1 como sus modelos tope para programación y trabajo de conocimiento, con el precio por token intacto y un recorte fuerte en la lectura de caché.

Latent Space
Claude Mythos, único modelo que completó la cadena de ataque
Electrónica

Claude Mythos, único modelo que completó la cadena de ataque

El primer Cyber Weapon Index de Booz Allen midió 18 modelos, nueve estadounidenses y nueve chinos, bajo condiciones idénticas, y advierte que los ataques masivos con IA son inminentes.

The Register
Claude Fable 5.1 dibuja su mejor pelícano por 3,30 dólares
IA

Claude Fable 5.1 dibuja su mejor pelícano por 3,30 dólares

Simon Willison corrió su prueba del pelícano en bicicleta en los cinco niveles de razonamiento del modelo de Anthropic: del más barato al más caro hay 33 veces de diferencia en costo.

Simon Willison
Claude Fable 5.1: hasta 45% más barato en tareas con agentes
IA

Claude Fable 5.1: hasta 45% más barato en tareas con agentes

Anthropic lanzó Fable 5.1 y Mythos 5.1, bajó la lectura de caché de 1 a 0,25 dólares por millón de tokens y duplicó su puntaje en investigación científica con agentes.

The Decoder
Gemini 3.8 Flash llega a 73,7% en DeepSWE, casi como Opus 5
IA

Gemini 3.8 Flash llega a 73,7% en DeepSWE, casi como Opus 5

Google publicó su tercer modelo económico en seis semanas, pero el nuevo Flash razona más y quema cerca de 30% más tokens de salida por tarea.

The Decoder
Gradium TTS acierta el 81% de los casos difíciles en 216
IA

Gradium TTS acierta el 81% de los casos difíciles en 216

El modelo de texto a voz quedó activo por defecto en la API y el estudio de la empresa, y apunta al punto donde fallan los agentes de voz: números de pedido, correos y códigos de referencia.

MarkTechPost
Agentes de voz: el presupuesto real de latencia es 700
IA

Agentes de voz: el presupuesto real de latencia es 700

El tiempo hasta el primer token es la métrica con la que los equipos eligen su API de inferencia, y también la que más los confunde: la síntesis no habla hasta recibir una cláusula completa.

MarkTechPost
EnvHarness: Google adapta el entorno al agente que lo entrena
IA

EnvHarness: Google adapta el entorno al agente que lo entrena

La capa programable envuelve entornos congelados sin tocar el simulador ni los verificadores humanos, y suma hasta 9 puntos en tareas que el agente nunca vio.

MarkTechPost
Los modelos de mundo fallan si ignoran lo que la gente cree
IA

Los modelos de mundo fallan si ignoran lo que la gente cree

Un nuevo marco llamado Mental World Modeling agrega creencias, intenciones y normas sociales al estado del mundo, y con eso un modelo débil supera a uno más potente que solo simula física.

The Decoder
NVIDIA AVO llega al 100% en ARC-AGI-3 con agentes autónomos
IA

NVIDIA AVO llega al 100% en ARC-AGI-3 con agentes autónomos

La arquitectura de NVIDIA resolvió los 183 niveles de la prueba pública con 12% menos acciones que VISTA, y llevó a un modelo que por sí solo rendía 30% hasta el puntaje perfecto.

NVIDIA Developer
Melanie Mitchell: aún no sabemos medir la cognición de la IA
IA

Melanie Mitchell: aún no sabemos medir la cognición de la IA

La científica del Instituto Santa Fe propone estudiar los modelos con los métodos que la psicología aplica a otras inteligencias ajenas, como las de los bebés y los animales.

Quanta Magazine
Nemotron 3.5 Lightning: 670 tokens/s y el nivel de gpt-oss-120b
IA

Nemotron 3.5 Lightning: 670 tokens/s y el nivel de gpt-oss-120b

Artificial Analysis midió el modelo abierto de NVIDIA: la mayor velocidad de su clase, un salto de nueve puntos en inteligencia y un Elo agéntico superior al de modelos cuatro veces más grandes.

The Decoder
Claude Opus 5 casi iguala a Fable 5 a mitad de precio
IA

Claude Opus 5 casi iguala a Fable 5 a mitad de precio

El nuevo modelo insignia de Anthropic lidera en programacion agentica y trabajo de conocimiento, y cuesta la mitad por token que Fable 5.

The Decoder
Kimi K3: el modelo abierto de 2,8 billones que reta a Opus 4.8
IA

Kimi K3: el modelo abierto de 2,8 billones que reta a Opus 4.8

Moonshot AI lanzó su modelo más capaz, con pesos abiertos prometidos para el 27 de julio; supera a GPT-5.5 y Opus 4.8 en sus propios benchmarks, pero cobra como la gama Claude Sonnet.

Simon Willison
NVIDIA presenta RoboLab para evaluar robots de forma justa
IA

NVIDIA presenta RoboLab para evaluar robots de forma justa

La plataforma de NVIDIA Research busca resolver uno de los problemas sin resolver de la robótica: cómo medir de verdad si una política de control funcionará fuera del laboratorio.

NVIDIA Developer
Grok 4.5 es tan barato que los benchmarks importan menos
IA

Grok 4.5 es tan barato que los benchmarks importan menos

El modelo de xAI queda detrás de Fable 5 y GPT-5.5 en varios benchmarks de programación, pero cuesta 2 dólares por millón de tokens de entrada y usa 4,2 veces menos tokens que Opus 4.8.

The Decoder
GPT-5.6 Sol casi iguala a Fable 5 a un tercio del costo
IA

GPT-5.6 Sol casi iguala a Fable 5 a un tercio del costo

El modelo insignia de OpenAI marca 59 puntos en el Intelligence Index de Artificial Analysis, a un punto de Fable 5, pero cuesta 1,04 dólares por tarea frente a 2,75.

The Decoder
Paper de OpenAI filtra tres variantes Pro para GPT-5.6
IA

Paper de OpenAI filtra tres variantes Pro para GPT-5.6

Un benchmark de genómica lista por primera vez Luna Pro, Terra Pro y Sol Pro; Sol Pro alcanza 31,5% de pass rate en la prueba.

The Decoder
Claude Sonnet 5 casi duplica el costo real por tarea
IA

Claude Sonnet 5 casi duplica el costo real por tarea

Consume 40% más tokens de salida que Sonnet 4.6 y triplica los ciclos de agente. El costo promedio salta de USD 1,20 a USD 2,29, aún más caro que el propio Opus 4.8.

The Decoder
Claude Fable 5 cuesta el doble por solo 5,7% más rendimiento
IA

Claude Fable 5 cuesta el doble por solo 5,7% más rendimiento

El nuevo tope de gama de Anthropic lidera el Artificial Analysis Intelligence Index con 64,9 puntos, pero su corrida completa de benchmarks bordea los USD 10.000, el doble que Opus 4.8.

The Decoder
Blackwell HGX B200 marca récord STAC-AI en finanzas
IA

Blackwell HGX B200 marca récord STAC-AI en finanzas

El benchmark STAC-AI LANG6 con Llama 3.1 8B y 70B muestra hasta 2,8x más rendimiento por GPU frente a Hopper en cargas de inferencia con documentos EDGAR.

NVIDIA Developer
Gemini 3.5 Flash es 5,5 veces más caro que su predecesor
IA

Gemini 3.5 Flash es 5,5 veces más caro que su predecesor

El modelo más rápido en su clase de inteligencia consume tantos tokens en tareas de agentes que supera incluso al Gemini 3.1 Pro en costo total.

The Decoder

Etiquetas relacionadas

Otros temas que aparecen junto a #benchmarks en nuestra cobertura editorial.