Escopo compartilhado do benchmark · SWE-bench Verified
Comparação de agentes no mesmo benchmark
As entradas abaixo compartilham o mesmo escopo de benchmark. As estruturas, versões de modelos, datas e valores originais exatos das fontes permanecem visíveis.
Um valor de origem mais alto significa apenas um desempenho melhor neste benchmark e nesta configuração. Não é uma pontuação comparável entre benchmarks nem de prontidão para produção.
Compare opções equivalentes
Visão geral da decisão
Somente configurações da mesma versão de benchmark e do mesmo escopo de tarefas podem ser incluídas em uma comparação.
| Sistema Agent | live-SWE-agent + Gemini 3 Pro Preview (2025-11-18) | live-SWE-agent + Claude 4.5 Opus medium (20251101) |
|---|---|---|
| Configuração | ||
| Modelo base | Gemini 3 Pro Preview (2025-11-18) | Claude 4.5 Opus medium (20251101) |
| ID ou rótulo do modelo na fonte | gemini-3-pro-preview | claude-opus-4-5-20251101 |
| Resultado | ||
| Resolvido | 77.4% | 79.2% |
| Confiança | ||
| Data da avaliação | 20 de nov. de 2025 | 15 de dez. de 2025 |
| Fonte | ||
| Abrir fonte | Abrir fonte ↗ | Abrir fonte ↗ |
Configuração
live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
- Modelo base
- Gemini 3 Pro Preview (2025-11-18)
- ID ou rótulo do modelo na fonte
- gemini-3-pro-preview
live-SWE-agent + Claude 4.5 Opus medium (20251101)
- Modelo base
- Claude 4.5 Opus medium (20251101)
- ID ou rótulo do modelo na fonte
- claude-opus-4-5-20251101
Resultado
live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
- Resolvido
- 77.4%
live-SWE-agent + Claude 4.5 Opus medium (20251101)
- Resolvido
- 79.2%
Confiança
live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
- Data da avaliação
- 20 de nov. de 2025
live-SWE-agent + Claude 4.5 Opus medium (20251101)
- Data da avaliação
- 15 de dez. de 2025
Fonte
live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)
live-SWE-agent + Claude 4.5 Opus medium (20251101)
Dados informados pela fonte; os valores ausentes permanecem desconhecidos.
Validar antes da adoção
As classificações públicas geram uma pré-seleção. Um pequeno teste privado determina se a configuração é adequada ao seu trabalho.
- 1
Escolha de 10 a 20 tarefas representativas e defina uma condição de aprovação clara.
- 2
Fixe o Agente, o modelo, as ferramentas, as permissões e o orçamento antes de testar.
- 3
Execute cada tarefa importante mais de uma vez; registre sucesso, custo, tempo e intervenções.
- 4
Revise as falhas e os riscos do tratamento de dados antes de tomar uma decisão de produção.