Управление · Понятие

Открытые проблемы технического моделирования рисков ИИ

Повестка воркшопа по структуре, интеграции свидетельств, валидации и институтам количественных моделей общественных рисков ИИ.

Сила тренда 7/10

Импульс +7/кв

Уверенность средняя

Статус новое

Горизонт прогноза

Progress hinges on coupling quantitative models with independent evaluation and tiered disclosure institutions.

Связи

Связи · 4

Как этот узел связан с остальной картой и какие подтверждения стоят за связями.

ведёт к · питает 4/10

Конституциональная трилемма покрытия в управлении ИИ

Обе работы касаются разрыва между общественным спросом на риск/ценности и текущим технико-институциональным предложением управления ИИ.

+4 прирост

входит · требует 4/10

Акт ЕС об ИИ

Обязанности systemic risk assessment в регулировании требуют строгих количественных методов моделирования рисков из повестки воркшопа.

+4 прирост

входит · делает возможным 3/10

Телеметрия GPU с нулевыми накладными расходами для управления ИИ-вычислениями

Идентификация нагрузок по физическим побочным каналам даёт конкретный примитив верификации для риск-моделей управления вычислениями.

+3 прирост

входит · питает 3/10

Разрыв покрытия модели угроз в оценке безопасности ИИ

Критика coverage gap показывает, что внутренняя валидность бенчмарков может пропускать вред при развёртывании, питая открытые вопросы risk modeling.

+3 прирост

Источники сигнала

Датированные факты из первоисточников по этому направлению.

Сроки Акта ЕС об ИИ Aug 2025

Обязательства Акта ЕС об ИИ для моделей общего назначения действуют со 2 августа 2025; обязательства для систем высокого риска (Приложение III) — со 2 августа 2026.

EU AI Act — implementation tracker →

Первый обязывающий договор May 2026

Рамочная конвенция Совета Европы по ИИ — первый юридически обязывающий международный договор об ИИ — открыта для подписания в сентябре 2024; ЕС ратифицировал её 15 мая 2026.

Council of Europe →

Научная панель ООН Aug 2025

26 августа 2025 Генеральная Ассамблея ООН создала Независимую международную научную панель по ИИ (40 экспертов) и Глобальный диалог по управлению ИИ.

United Nations →