Escopo compartilhado do benchmark · SWE-bench Verified

Comparação de agentes no mesmo benchmark

As entradas abaixo compartilham o mesmo escopo de benchmark. As estruturas, versões de modelos, datas e valores originais exatos das fontes permanecem visíveis.

Um valor de origem mais alto significa apenas um desempenho melhor neste benchmark e nesta configuração. Não é uma pontuação comparável entre benchmarks nem de prontidão para produção.

Compare opções equivalentes

Visão geral da decisão

Somente configurações da mesma versão de benchmark e do mesmo escopo de tarefas podem ser incluídas em uma comparação.

Dados informados pela fonte; os valores ausentes permanecem desconhecidos.
UIUClive-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
Resolvido77.4%Custo por tarefa concluída com sucessoNão publicadoFaixa de resultados publicadaNão publicado
Detalhes do Agent
UIUClive-SWE-agent + Claude 4.5 Opus medium (20251101)
Resolvido79.2%Custo por tarefa concluída com sucessoNão publicadoFaixa de resultados publicadaNão publicado
Detalhes do Agent
17 campos idênticos ou totalmente sem dados ocultos
Sistema Agentlive-SWE-agent + Gemini 3 Pro Preview (2025-11-18)live-SWE-agent + Claude 4.5 Opus medium (20251101)
Configuração
Modelo baseGemini 3 Pro Preview (2025-11-18)Claude 4.5 Opus medium (20251101)
ID ou rótulo do modelo na fontegemini-3-pro-previewclaude-opus-4-5-20251101
Resultado
Resolvido77.4%79.2%
Confiança
Data da avaliação20 de nov. de 202515 de dez. de 2025
Fonte
Abrir fonteAbrir fonteAbrir fonte

Configuração

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Modelo base
Gemini 3 Pro Preview (2025-11-18)
ID ou rótulo do modelo na fonte
gemini-3-pro-preview

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Modelo base
Claude 4.5 Opus medium (20251101)
ID ou rótulo do modelo na fonte
claude-opus-4-5-20251101

Resultado

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Resolvido
77.4%

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Resolvido
79.2%

Confiança

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

Data da avaliação
20 de nov. de 2025

live-SWE-agent + Claude 4.5 Opus medium (20251101)

Data da avaliação
15 de dez. de 2025

Fonte

Dados informados pela fonte; os valores ausentes permanecem desconhecidos.

Validar antes da adoção

As classificações públicas geram uma pré-seleção. Um pequeno teste privado determina se a configuração é adequada ao seu trabalho.

  1. 1

    Escolha de 10 a 20 tarefas representativas e defina uma condição de aprovação clara.

  2. 2

    Fixe o Agente, o modelo, as ferramentas, as permissões e o orçamento antes de testar.

  3. 3

    Execute cada tarefa importante mais de uma vez; registre sucesso, custo, tempo e intervenções.

  4. 4

    Revise as falhas e os riscos do tratamento de dados antes de tomar uma decisão de produção.

Diretório e avaliações de Agents