Способности · Понятие
ORCA-bench: oncall root-cause analysis для coding-агентов
Production-fidelity бенчмарк: агенты диагностируют инциденты по telemetry, логам, трейсам и коду.
Горизонт прогноза
Exposes a large gap between coding skill and real SRE-style incident reasoning.
Связи
Связи · 3
Как этот узел связан с остальной картой и какие подтверждения стоят за связями.
ведёт к · питает 4/10
Сужение киберразрыва открытых (open-weight) моделей Низкая RCA-точность frontier coding-агентов в реалистичном oncall-шуме дополняет измерения кибер-разрыва для операционного риска.
+4 прирост ведёт к · ограничивает 3/10
ИИ-агенты перестраивают knowledge work Низкая oncall RCA accuracy показывает, что coding-агенты далеки от надёжной production incident knowledge work.
+3 прирост ведёт к · применяется к 3/10
ИИ-агенты перестраивают knowledge work Бенчмарк oncall RCA показывает, что frontier coding-агенты всё ещё проваливают большинство реалистичных инцидентов.
+3 приростИсточники сигнала
Источники сигнала
Датированные факты из первоисточников по этому направлению.
Горизонт задач удваивается Mar 2025
Длина программных задач, которые ИИ-агенты выполняют автономно с надёжностью 50%, удваивается примерно каждые 7 месяцев, а с 2024 года — ближе к ~3 месяцам.
METR → Бенчмарки насыщаются Apr 2025
За год баллы выросли на 18.8, 48.9 и 67.3 пункта на MMMU, GPQA и SWE-bench; решаемость реальных программных задач подскочила с 4.4% до 71.7%.
Stanford HAI — AI Index 2025 → Автономное программирование 2025–2026
На SWE-bench Verified (500 реальных issue с GitHub) автономные кодовые агенты достигли ~80–86% к концу 2025 года против менее 50% в начале 2025.
Epoch AI →