Безопасность · Понятие
Технический долг безопасности и защищённости ИИ (AITD)
Таксономия 31 типа ИИ-техдолга через AI TRiSM, связывающая скрытые долги пайплайнов с рисками safety и security.
Горизонт прогноза
Safety debt registers may enter enterprise AI risk and assurance practice.
Связи
Связи · 3
Как этот узел связан с остальной картой и какие подтверждения стоят за связями.
входит · ограничивает 3/10
ECAISA: эпистемический кодекс AI safety и alignment Требования ECAISA к независимой верификации и worst-case эпистемике форсировали бы более раннее погашение latent safety/security долгов.
+3 прирост ведёт к · применяется к 3/10
Рамка управления рисками ИИ NIST (AI RMF) Таксономия AITD явно опирается на принципы AI TRiSM, близкие операционализации RMF.
+3 прирост ведёт к · питает 3/10
Рамка устойчивости ИИ: операционная устойчивость для фирм, зависимых от ИИ Таксономия AITD связывает скрытые data/model/ops долги с сбоями safety и security в high-stakes ИИ-системах.
+3 приростИсточники сигнала
Источники сигнала
Датированные факты из первоисточников по этому направлению.
Центр оценок США Jun 2025
В июне 2025 года Институт безопасности ИИ США переименован в Центр стандартов и инноваций ИИ (CAISI) с разворотом к безопасности, стандартам и оценке моделей противников.
NIST → Защита фронтира May 2025
Anthropic активировала стандарт развёртывания и безопасности ASL-3 вместе с Claude Opus 4 22 мая 2025 — первое реальное срабатывание ступени ответственного масштабирования, нацеленное на блокировку биорисков.
Anthropic → Трансграничное тестирование 2025
Международная сеть институтов безопасности ИИ (создана в ноябре 2024) провела третье совместное тестирование, сфокусированное на агентных ИИ-системах по кибер- и мошенническим направлениям.
European Commission — AI Office →