Перейти к содержимому

Бенчмарки кодинга

DeepSWE

Снапшот 2026-07-16 · 113 задач · Источник · Public leaderboard snapshot; verify current rankings on the source before citing.

Иллюстративный снапшот публичного лидерборда DeepSWE (mini-swe-agent). Баллы и стоимости — это не учёт OpenCodex в реальном времени.

МодельРассужденияБаллСтоимость / задачаБаллы / $Назначение
gpt-5.6-solmax73% ±3$8.398.7Фронтир, Планировщик
claude-fable-5max70% ±4$21.633.2Планировщик, Фронтир
gpt-5.6-terramax70% ±3$4.9514.1Рабочая лошадка, Фронтир
gpt-5.6-lunamax67% ±4$3.0322.1Рабочая лошадка, Дешёвый подагент
gpt-5.5xhigh67% ±6$7.239.3Фронтир, Рабочая лошадка
claude-opus-4.8max59% ±2$13.224.5Фронтир, Планировщик
claude-sonnet-5max54% ±4$26.42.0Планировщик
grok-4.5high54% ±2$2.4222.3Рабочая лошадка, Дешёвый подагент
muse-spark-1.1Самая выгоднаяxhigh53% ±3$2.3622.5Рабочая лошадка, Дешёвый подагент
gpt-5.4xhigh52% ±2$5.659.2Рабочая лошадка
glm-5.2max44% ±2$3.9211.2Рабочая лошадка, Дешёвый подагент
gemini-3.5-flashmedium37% ±2$7.345.0Быстрая
kimi-k2.7-code31% ±1$2.8211.0Дешёвый подагент, Рабочая лошадка
claude-sonnet-4.6high30% ±4$5.525.4Рабочая лошадка
gemini-3.1-prohigh12% ±2$9.481.3Фронтир

AA Coding Agent

Снапшот 2026-07-09 · undefined задач · Источник · Figures from Artificial Analysis public pages; not affiliated with AA.

Снапшот Artificial Analysis Coding Agent Index (после GA GPT-5.6, 2026-07-09). См. provenance.url. Это не учёт OpenCodex в реальном времени.

МодельРассужденияБаллСтоимость / задачаБаллы / $Назначение
composer-2.5Самая выгоднаяstd62$0.07885.7Рабочая лошадка, Дешёвый подагент, Быстрая
composer-2.5fast62$0.44140.9Рабочая лошадка, Быстрая
claude-opus-4.7max66$4.116.1Фронтир, Планировщик
gpt-5.5xhigh65$4.8213.5Фронтир, Рабочая лошадка
gpt-5.6-lunamax75$1.5548.4Рабочая лошадка, Дешёвый подагент
gpt-5.6-terramax77$2.432.1Рабочая лошадка
gpt-5.6-solmax80$3.920.5Фронтир, Планировщик
grok-4.5high76$2.5429.9Рабочая лошадка, Дешёвый подагент
claude-sonnet-4.6high58$2.820.7Рабочая лошадка
claude-fable-5high64$9.56.7Планировщик, Фронтир

FrontierCode

Снапшот 2026-07-16 · 100 задач · Источник · Public FrontierCode snapshot; verify on cognition.com before citing.

Иллюстративный снапшот с cognition.com/frontiercode (FrontierCode 1.1 Main, июль 2026). Балл = рубрика mergeability; стоимость = средняя сумма в USD за роллаут. Режимы Best / All соответствуют переключателю на лидерборде Cognition. Это не учёт OpenCodex в реальном времени.

МодельРассужденияБаллСтоимость / задачаБаллы / $Назначение
claude-fable-5xhigh53.5%$13.094.1Фронтир, Рабочая лошадка, Планировщик
claude-fable-5high52.7%$9.485.6Фронтир, Рабочая лошадка, Планировщик
claude-fable-5max51.6%$19.072.7Фронтир, Рабочая лошадка, Планировщик
claude-fable-5medium49.8%$7.157.0Фронтир, Рабочая лошадка, Планировщик
claude-fable-5low48%$4.929.8Фронтир, Рабочая лошадка, Планировщик
gpt-5.6-solmax47.5%$6.37.5Фронтир, Рабочая лошадка, Планировщик
gpt-5.6-solxhigh46.8%$59.4Фронтир, Рабочая лошадка, Планировщик
claude-opus-4.8max46.5%$9.624.8Фронтир, Рабочая лошадка, Планировщик
claude-opus-4.8xhigh45.5%$6.786.7Фронтир, Рабочая лошадка, Планировщик
gpt-5.6-solhigh45.1%$4.111.0Фронтир, Рабочая лошадка, Планировщик
gpt-5.5xhigh43%$4.0310.7Фронтир, Рабочая лошадка
claude-sonnet-5xhigh42.7%$9.064.7Фронтир, Рабочая лошадка
grok-4.5high42.4%$1.332.6Рабочая лошадка, Дешёвый подагент, Быстрая
claude-sonnet-5max42.4%$15.42.8Фронтир, Рабочая лошадка
swe-1.742.3%$1.9721.5Рабочая лошадка, Дешёвый подагент
grok-4.5medium41.9%$1.234.9Рабочая лошадка, Дешёвый подагент, Быстрая
gpt-5.6-terramax41.3%$2.318.0Рабочая лошадка
claude-opus-4.8high41%$4.289.6Фронтир, Рабочая лошадка, Планировщик
gpt-5.5high40.6%$3.1213.0Фронтир, Рабочая лошадка
claude-opus-4.8medium40.5%$3.710.9Фронтир, Рабочая лошадка, Планировщик
gpt-5.6-solmedium39.9%$3.112.9Фронтир, Рабочая лошадка, Планировщик
gpt-5.6-lunamax39.8%$1.822.1Рабочая лошадка, Дешёвый подагент
claude-sonnet-5high39.4%$5.497.2Фронтир, Рабочая лошадка
gpt-5.6-lunaxhigh38.9%$1.525.9Рабочая лошадка, Дешёвый подагент
gpt-5.6-terraxhigh38.7%$1.624.2Рабочая лошадка, Дешёвый подагент
claude-opus-4.7max38.5%$9.094.2Рабочая лошадка
grok-4.5low37.9%$0.847.4Рабочая лошадка, Дешёвый подагент, Быстрая
gpt-5.6-terrahigh36.9%$1.426.4Рабочая лошадка, Дешёвый подагент, Быстрая
gpt-5.5medium36.6%$2.3515.6Фронтир, Рабочая лошадка
gpt-5.6-lunahigh35.9%$1.132.6Рабочая лошадка, Дешёвый подагент, Быстрая
gpt-5.6-sollow35.4%$2.116.9Фронтир, Рабочая лошадка, Планировщик
claude-sonnet-5medium35.2%$3.4310.3Фронтир, Рабочая лошадка
claude-opus-4.7high35.2%$5.037.0Рабочая лошадка
claude-opus-4.8low35.1%$2.6813.1Фронтир, Рабочая лошадка, Планировщик
claude-opus-4.7xhigh34.9%$6.875.1Рабочая лошадка
gpt-5.6-terramedium33.9%$0.937.7Рабочая лошадка, Дешёвый подагент, Быстрая
gpt-5.5low30.6%$1.6518.5Фронтир, Рабочая лошадка, Дешёвый подагент
kimi-k2.730.1%$3.0110.0
claude-opus-4.7medium28.9%$3.229.0Рабочая лошадка
claude-sonnet-5low28.7%$2.1513.3Фронтир, Рабочая лошадка
claude-opus-4.7low27.6%$2.4711.2Рабочая лошадка
gpt-5.6-lunamedium25.7%$0.642.8Рабочая лошадка, Дешёвый подагент, Быстрая
composer-2.525.6%$3.098.3
glm-5.224.5%$2.479.9
gpt-5.6-terralow24.1%$0.548.2Рабочая лошадка, Дешёвый подагент, Быстрая
deepseek-v4-pro17.6%$1.611.0Дешёвый подагент
gpt-5.6-lunaСамая выгоднаяlow15.4%$0.277.0Рабочая лошадка, Дешёвый подагент, Быстрая
minimax-m314.7%$0.721.0Дешёвый подагент, Быстрая
inkling0.9914%$3.63.9
qwen-3.7-plus10.2%$0.251.0Дешёвый подагент, Быстрая

FrontierSWE

Снапшот 2026-07-16 · undefined задач · Источник · Scores from FrontierSWE; costs are illustrative API/relative blends, not measured $/task.

Иллюстративный снапшот с frontierswe.com (доминирование Mean@5). Ось X использует смешанный публичный API-тариф $/MTok как относительный показатель стоимости — это не измеренные $/task. Это не учёт OpenCodex в реальном времени.

Стоимости на этой доске — оценки или смеси API-цен; рейтинг по баллам/$ и метка «Самая выгодная» отключены, пока у каждой строки нет измеренной источником стоимости задачи.

МодельРассужденияБаллСтоимость / задачаНазначение
claude-fable-5claude-code89%$30Планировщик, Фронтир
grok-4.5grok-cli78%$4Рабочая лошадка, Фронтир
claude-opus-4.8claude-code73%$15Фронтир, Планировщик
glm-5.2claude-code72%$1.98Рабочая лошадка, Дешёвый подагент
gpt-5.5codex70%$17.5Фронтир, Рабочая лошадка
claude-opus-4.7claude-code61%$15Фронтир
claude-opus-4.6claude-code53%$15Рабочая лошадка
gpt-5.4codex51%$8.75Рабочая лошадка
composer-2.5cursor-cli38%$1Рабочая лошадка, Дешёвый подагент, Быстрая
gemini-3.1-progemini-cli37%$8.75Фронтир
glm-5.1claude-code29%$2.9Рабочая лошадка
deepseek-v4-proclaude-code27%$2.4Дешёвый подагент, Рабочая лошадка
kimi-k2.6kimi-cli25%$2.13Дешёвый подагент
kimi-k2.5kimi-cli25%$2.13Дешёвый подагент
qwen3.6-plusqwen-code21%$1.75Дешёвый подагент

Program Bench

Снапшот 2026-06-23 · 200 задач · Источник · Scores and average API costs from ProgramBench extended leaderboard.

Снапшот расширенного лидерборда programbench.com (mini-SWE-agent, 200 задач). Балл = almost-resolved (≥95% тестов). Стоимости = опубликованные средние API $/task. Это не учёт OpenCodex в реальном времени.

МодельРассужденияБаллСтоимость / задачаБаллы / $Назначение
gpt-5.5Самая выгоднаяxhigh13.5%$8.851.5Фронтир, Планировщик
gpt-5.5high5%$3.651.4Фронтир, Рабочая лошадка
claude-opus-4.7xhigh4.5%$10.960.4Планировщик, Фронтир
claude-opus-4.73%$3.810.8Фронтир
claude-opus-4.62.5%$11.380.2Рабочая лошадка
gpt-5.51.5%$1.211.2Рабочая лошадка
claude-sonnet-4.61%$26.730.0Рабочая лошадка
gpt-5.40%$0.330.0Быстрая, Дешёвый подагент
gemini-3.1-pro0%$1.510.0Фронтир
gemini-3-flash0%$0.30.0Быстрая, Дешёвый подагент
claude-haiku-4.50%$0.80.0Быстрая, Дешёвый подагент
gpt-5.4-mini0%$0.040.0Быстрая, Дешёвый подагент
gpt-5-mini0%$0.030.0Быстрая, Дешёвый подагент

SWE Marathon

Снапшот 2026-07-09 · 20 задач · Источник · Scores from SWE-Marathon; costs are estimates.

Иллюстративный снапшот с swe-marathon.org (pass@1 на 20 задачах со сверхдлинным горизонтом). Ось стоимости — оценочная относительная стоимость прогона (длинные траектории); это не опубликованные $/task. Это не учёт OpenCodex в реальном времени.

Стоимости на этой доске — оценки или смеси API-цен; рейтинг по баллам/$ и метка «Самая выгодная» отключены, пока у каждой строки нет измеренной источником стоимости задачи.

МодельРассужденияБаллСтоимость / задачаНазначение
grok-4.5grok-build29%$8Фронтир, Планировщик
claude-opus-4.8claude-code26%$28Фронтир, Планировщик
claude-fable-5claude-code24%$45Планировщик, Фронтир
claude-opus-4.7claude-code16%$22Фронтир
glm-5.2claude-code13%$6Рабочая лошадка, Дешёвый подагент
gpt-5.5codex12%$18Фронтир, Рабочая лошадка
claude-opus-4.7terminus-211%$20Рабочая лошадка
gemini-3.5-flashgemini-cli7%$5Быстрая
gpt-5.5terminus-26%$16Рабочая лошадка
gemini-3.1-proterminus-24%$12Фронтир
deepseek-v4-proterminus-24%$7Дешёвый подагент
gemini-3.1-progemini-cli2%$12Фронтир
glm-5.1terminus-21%$5Рабочая лошадка
minimax-m2.7terminus-20%$3Дешёвый подагент
kimi-k2.6kimi-cli0%$4Дешёвый подагент