Alcance compartido del benchmark · SWE-bench Verified

Comparación de agentes en el mismo benchmark

Las entradas que aparecen a continuación comparten el mismo alcance de benchmark. Sus andamiajes, versiones de modelos, fechas y valores originales de las fuentes permanecen visibles.

Un valor de origen superior solo significa un mejor rendimiento en este benchmark y esta configuración. No es una puntuación comparable entre benchmarks ni de preparación para producción.

Comparar elementos equivalentes

Resumen de la decisión

Solo pueden incluirse en una misma comparación configuraciones de la misma versión de la prueba de referencia y con el mismo alcance de tareas.

Datos comunicados por la fuente; los valores ausentes siguen siendo desconocidos.
UIUClive-SWE-agent + Claude 4.5 Opus medium (20251101)
Resuelto79.2%Coste por tarea completada con éxitoNo publicadoIntervalo de resultados publicadosNo publicado
Detalles del Agent
UIUClive-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
Resuelto77.4%Coste por tarea completada con éxitoNo publicadoIntervalo de resultados publicadosNo publicado
Detalles del Agent
17 campos idénticos o sin datos se ocultan
Sistema Agentlive-SWE-agent + Claude 4.5 Opus medium (20251101)live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
Configuración
Modelo baseClaude 4.5 Opus medium (20251101)Gemini 3 Pro Preview (2025-11-18)
ID o etiqueta del modelo en la fuenteclaude-opus-4-5-20251101gemini-3-pro-preview
Resultado
Resuelto79.2%77.4%
Confianza
Fecha de evaluación15 dic 202520 nov 2025
Fuente
Abrir fuenteAbrir fuenteAbrir fuente

Configuración

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Modelo base
Claude 4.5 Opus medium (20251101)
ID o etiqueta del modelo en la fuente
claude-opus-4-5-20251101

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Modelo base
Gemini 3 Pro Preview (2025-11-18)
ID o etiqueta del modelo en la fuente
gemini-3-pro-preview

Resultado

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Resuelto
79.2%

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Resuelto
77.4%

Confianza

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Fecha de evaluación
15 dic 2025

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Fecha de evaluación
20 nov 2025

Fuente

Datos comunicados por la fuente; los valores ausentes siguen siendo desconocidos.

Validar antes de adoptar

Las clasificaciones públicas permiten elaborar una lista de finalistas. Una pequeña prueba privada determina si la configuración se adapta a tu trabajo.

  1. 1

    Elige entre 10 y 20 tareas representativas y define una condición de aprobación clara.

  2. 2

    Fija el agente, el modelo, las herramientas, los permisos y el presupuesto antes de realizar la prueba.

  3. 3

    Ejecute cada tarea importante más de una vez; registre el éxito, el coste, el tiempo y las intervenciones humanas.

  4. 4

    Revise los fallos y los riesgos del tratamiento de datos antes de tomar una decisión de producción.

Directorio y evaluaciones de Agents