Управление · Понятие
Разрыв в оцениваемости ИИ
Аудиты достоверности бенчмарков сами по себе ненадёжны и могут быть незаметно сфабрикованы деталями реализации, подрывая доказательную базу обеспечения управления.
Горизонт прогноза
Goodhart's Law dynamics in AI evaluation will intensify as optimization pressure on benchmarks grows.
Связи
Связи · 13
Как этот узел связан с остальной картой и какие подтверждения стоят за связями.
входит · применяется к 4/10
Разрыв аудита и оценки ИИ в Глобальном Юге Редкость аудитов на Глобальном Юге воплощает более широкий evaluability gap при быстром внедрении.
+4 прирост ведёт к · задаёт рамку 3/10
Наука об оценке ИИ Концепция разрыва в оцениваемости ИИ переосмысливает управление ИИ как требующее доказательной базы, а не только свойств системы.
+3 прирост ведёт к · питает 3/10
Наука об оценке ИИ Сбои аудита достоверности бенчмарков выявляют разрыв в оцениваемости ИИ, показывая, что доказательства обеспечения управления могут быть незаметно сфабрикованы.
+3 прирост входит · делает возможным 3/10
Инфраструктурный слой спецификаций для надзора за ИИ Предлагаемый слой спецификаций — связующая ткань, делающая evaluation, mediation и escalation компонуемыми для надзора.
+3 прирост входит · питает 3/10
Шестимерная таксономия посттренировочной адаптации Таксономия стандартизирует описание модификаций обученных моделей для документации и управления.
+3 прирост входит · поддерживает 3/10
Шестимерная таксономия посттренировочной адаптации Общий словарь посттренировочных изменений улучшает документацию и оцениваемость для регуляторов.
+3 прирост входит · применяется к 3/10
Планирование на основе возможностей для готовности к ИИ-кризисам Оценка возможностей по сценариям предлагается, поскольку likelihood-прогноз рисков ИИ признаётся несостоятельным.
+3 прирост входит · применяется к 3/10
Явная оцениваемая «понятность» в решениях по безопасности передового ИИ Методика делает понимание ЛПР явным, чтобы safety case сам по себе не имитировал оцениваемость.
+3 прирост входит · ограничивает 3/10
Зависимость верификации от исчезающего оценщика Исчезновение оценщиков ломает допущение постфактум-реконструкции и расширяет разрыв оцениваемости.
+3 прирост входит · питает 3/10
Зависимость верификации от исчезающего оценщика Короткие интервалы вывода моделей и привязка к версии подрывают допущение о повторной проверяемости решений ИИ.
+3 прирост входит · задаёт рамку 3/10
Зависимость верификации от исчезающего оценщика При исчезновении evaluator реконструкция model-mediated решений невозможна без заранее заложенных commitment и независимой верифицируемости.
+3 прирост входит · задаёт рамку 2/10
Структурные требования авиационной сертификации к документам управления ИИ Анализ авиационной сертификации выявляет структурный пробел в документах управления ИИ, аналогичный разрыву в оцениваемости ИИ.
+2 прирост входит · задаёт рамку 2/10
Безопасность аффективного ИИ Аффективный вред безопасности является кумулятивным и реляционным, что делает его плохо отражаемым существующими системами оценки.
+2 приростИсточники сигнала
Источники сигнала
Датированные факты из первоисточников по этому направлению.
Сроки Акта ЕС об ИИ Aug 2025
Обязательства Акта ЕС об ИИ для моделей общего назначения действуют со 2 августа 2025; обязательства для систем высокого риска (Приложение III) — со 2 августа 2026.
EU AI Act — implementation tracker → Первый обязывающий договор May 2026
Рамочная конвенция Совета Европы по ИИ — первый юридически обязывающий международный договор об ИИ — открыта для подписания в сентябре 2024; ЕС ратифицировал её 15 мая 2026.
Council of Europe → Научная панель ООН Aug 2025
26 августа 2025 Генеральная Ассамблея ООН создала Независимую международную научную панель по ИИ (40 экспертов) и Глобальный диалог по управлению ИИ.
United Nations →