공통 벤치마크 범위 · SWE-bench Verified

같은 벤치마크 비교

과거 근거

같은 벤치마크 범위의 구성입니다. 스캐폴드, 모델 버전, 날짜와 출처 값을 그대로 표시합니다.

높은 값은 이 벤치마크 조건의 결과일 뿐 운영 준비도나 교차 벤치마크 점수가 아닙니다.

같은 조건끼리 비교

판단 개요

같은 벤치마크 버전과 작업 범위의 구성만 비교할 수 있습니다.

출처 공개 데이터이며 누락값은 알 수 없음으로 유지합니다.

차이 한눈에 보기

SWE-bench Verified · 해결률

차이 한눈에 보기live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)live-SWE-agent + Claude 4.5 Opus medium (20251101)
강점—
  • 공개 결과가 높음: 79.2%
제약과 절충점
  • 공개 결과가 낮음: 77.4%
—
기능 및 비용
  • 기반 모델: Gemini 3 Pro Preview (2025-11-18)스캐폴드: live-SWE-agent
  • 기반 모델: Claude 4.5 Opus medium (20251101)스캐폴드: live-SWE-agent
상세 정보 →상세 정보 →
전체 데이터와 출처
동일하거나 모두 미보고인 필드 17개 숨김
에이전트 시스템live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)live-SWE-agent + Claude 4.5 Opus medium (20251101)
구성
기반 모델Gemini 3 Pro Preview (2025-11-18)Claude 4.5 Opus medium (20251101)
출처 모델 ID 또는 표기gemini-3-pro-previewclaude-opus-4-5-20251101
결과
해결률77.4%79.2%
신뢰
평가 날짜2025년 11월 20일2025년 12월 15일
출처
출처 열기출처 열기 ↗출처 열기 ↗

구성

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

기반 모델
Gemini 3 Pro Preview (2025-11-18)
출처 모델 ID 또는 표기
gemini-3-pro-preview

live-SWE-agent + Claude 4.5 Opus medium (20251101)

기반 모델
Claude 4.5 Opus medium (20251101)
출처 모델 ID 또는 표기
claude-opus-4-5-20251101

결과

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

해결률
77.4%

live-SWE-agent + Claude 4.5 Opus medium (20251101)

해결률
79.2%

신뢰

live-SWE-agent + Gemini 3 Pro Preview (2025-11-18)

평가 날짜
2025년 11월 20일

live-SWE-agent + Claude 4.5 Opus medium (20251101)

평가 날짜
2025년 12월 15일

출처

출처 공개 데이터이며 누락값은 알 수 없음으로 유지합니다.

도입 전 검증

공개 순위는 후보 목록입니다. 작은 비공개 시험으로 실제 적합성을 확인하세요.

  1. 1

    대표 작업 10~20개와 명확한 통과 조건을 정합니다.

  2. 2

    Agent, 모델, 도구, 권한과 예산을 고정합니다.

  3. 3

    중요 작업은 반복 실행하고 성공, 비용, 시간, 개입을 기록합니다.

  4. 4

    실패와 데이터 처리 위험을 검토한 뒤 도입합니다.

← Agent 디렉터리와 평가