Alcance compartido del benchmark · SWE-bench Verified

Comparación de agentes en el mismo benchmark

Evidencia histórica

Las entradas que aparecen a continuación comparten el mismo alcance de benchmark. Sus andamiajes, versiones de modelos, fechas y valores originales de las fuentes permanecen visibles.

Un valor de origen superior solo significa un mejor rendimiento en este benchmark y esta configuración. No es una puntuación comparable entre benchmarks ni de preparación para producción.

Comparar elementos equivalentes

Resumen de la decisión

Solo pueden incluirse en una misma comparación configuraciones de la misma versión de la prueba de referencia y con el mismo alcance de tareas.

Datos comunicados por la fuente; los valores ausentes siguen siendo desconocidos.

Diferencias de un vistazo

SWE-bench Verified · Resuelto

Diferencias de un vistazolive-SWE-agent + Claude 4.5 Opus medium (20251101)live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
Ventajas
  • Resultado publicado mayor: 79.2%
—
Limitaciones y compromisos—
  • Resultado publicado menor: 77.4%
Funciones y coste
  • Modelo base: Claude 4.5 Opus medium (20251101)Andamiaje: live-SWE-agent
  • Modelo base: Gemini 3 Pro Preview (2025-11-18)Andamiaje: live-SWE-agent
Detalles del Agent →Detalles del Agent →
Todos los datos y fuentes
17 campos idénticos o sin datos se ocultan
Sistema Agentlive-SWE-agent + Claude 4.5 Opus medium (20251101)live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
Configuración
Modelo baseClaude 4.5 Opus medium (20251101)Gemini 3 Pro Preview (2025-11-18)
ID o etiqueta del modelo en la fuenteclaude-opus-4-5-20251101gemini-3-pro-preview
Resultado
Resuelto79.2%77.4%
Confianza
Fecha de evaluación15 dic 202520 nov 2025
Fuente
Abrir fuenteAbrir fuente ↗Abrir fuente ↗

Configuración

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Modelo base
Claude 4.5 Opus medium (20251101)
ID o etiqueta del modelo en la fuente
claude-opus-4-5-20251101

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Modelo base
Gemini 3 Pro Preview (2025-11-18)
ID o etiqueta del modelo en la fuente
gemini-3-pro-preview

Resultado

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Resuelto
79.2%

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Resuelto
77.4%

Confianza

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Fecha de evaluación
15 dic 2025

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Fecha de evaluación
20 nov 2025

Fuente

Datos comunicados por la fuente; los valores ausentes siguen siendo desconocidos.

Validar antes de adoptar

Las clasificaciones públicas permiten elaborar una lista de finalistas. Una pequeña prueba privada determina si la configuración se adapta a tu trabajo.

  1. 1

    Elige entre 10 y 20 tareas representativas y define una condición de aprobación clara.

  2. 2

    Fija el agente, el modelo, las herramientas, los permisos y el presupuesto antes de realizar la prueba.

  3. 3

    Ejecute cada tarea importante más de una vez; registre el éxito, el coste, el tiempo y las intervenciones humanas.

  4. 4

    Revise los fallos y los riesgos del tratamiento de datos antes de tomar una decisión de producción.

← Directorio y evaluaciones de Agents