Alcance compartido del benchmark · SWE-bench Verified

Comparación de agentes en el mismo benchmark

Las entradas que aparecen a continuación comparten el mismo alcance de benchmark. Sus andamiajes, versiones de modelos, fechas y valores originales de las fuentes permanecen visibles.

Un valor de origen superior solo significa un mejor rendimiento en este benchmark y esta configuración. No es una puntuación comparable entre benchmarks ni de preparación para producción.

Comparar elementos equivalentes

Resumen de la decisión

Solo pueden incluirse en una misma comparación configuraciones de la misma versión de la prueba de referencia y con el mismo alcance de tareas.

Datos comunicados por la fuente; los valores ausentes siguen siendo desconocidos.
UIUClive-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
Resuelto77.4%Coste por tarea completada con éxitoNo publicadoIntervalo de resultados publicadosNo publicado
Detalles del Agent
UIUClive-SWE-agent + Claude 4.5 Opus medium (20251101)
Resuelto79.2%Coste por tarea completada con éxitoNo publicadoIntervalo de resultados publicadosNo publicado
Detalles del Agent
17 campos idénticos o sin datos se ocultan
Sistema Agentlive-SWE-agent + Gemini 3 Pro Preview (2025-11-18)live-SWE-agent + Claude 4.5 Opus medium (20251101)
Configuración
Modelo baseGemini 3 Pro Preview (2025-11-18)Claude 4.5 Opus medium (20251101)
ID o etiqueta del modelo en la fuentegemini-3-pro-previewclaude-opus-4-5-20251101
Resultado
Resuelto77.4%79.2%
Confianza
Fecha de evaluación20 nov 202515 dic 2025
Fuente
Abrir fuenteAbrir fuenteAbrir fuente

Configuración

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Modelo base
Gemini 3 Pro Preview (2025-11-18)
ID o etiqueta del modelo en la fuente
gemini-3-pro-preview

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Modelo base
Claude 4.5 Opus medium (20251101)
ID o etiqueta del modelo en la fuente
claude-opus-4-5-20251101

Resultado

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Resuelto
77.4%

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Resuelto
79.2%

Confianza

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Fecha de evaluación
20 nov 2025

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Fecha de evaluación
15 dic 2025

Fuente

Datos comunicados por la fuente; los valores ausentes siguen siendo desconocidos.

Validar antes de adoptar

Las clasificaciones públicas permiten elaborar una lista de finalistas. Una pequeña prueba privada determina si la configuración se adapta a tu trabajo.

  1. 1

    Elige entre 10 y 20 tareas representativas y define una condición de aprobación clara.

  2. 2

    Fija el agente, el modelo, las herramientas, los permisos y el presupuesto antes de realizar la prueba.

  3. 3

    Ejecute cada tarea importante más de una vez; registre el éxito, el coste, el tiempo y las intervenciones humanas.

  4. 4

    Revise los fallos y los riesgos del tratamiento de datos antes de tomar una decisión de producción.

Directorio y evaluaciones de Agents