Безопасность · Понятие

Автоматизированная система красных команд HackAgent

RIFT-Bench представляет методологию динамического тестирования на основе графового представления, обеспечивающую унифицированные оценки 45 разнообразных агентных архитектур ИИ.

Сила тренда 4/10

Импульс 0/кв

Уверенность средняя

Статус новое

Горизонт прогноза

Связи

Связи · 6

Как этот узел связан с остальной картой и какие подтверждения стоят за связями.

ведёт к · применяется к 3/10

Claude Fable 5 / Mythos 5 / Opus 4.8 (Anthropic)

Фреймворк HackAgent применялся для оценки устойчивости к атакам Fable 5 и Opus 4.8.

+3 прирост

входит · делает возможным 3/10

PATE-Forensics: explainable deepfake-криминалистика

Deepfake-криминалистика Perception-as-tool даёт структурированный контекст детекции для объясняющих MLLM-агентов.

+3 прирост

входит · поддерживает 3/10

Semalith v1.4: компактный многоосный safety-классификатор

Компактный многоосный классификатор закрывает detection injection и вреда для агентных/финансовых внедрений.

+3 прирост

входит · поддерживает 3/10

Мультиагентный адверсариальный стресс-тест ролевых агентов

Расширяет red-teaming на многоходовых ролевых агентов со strategy-driven interrogator и авто-судьёй.

+3 прирост

входит · питает 2/10

ToxSearch-S: распределённый эволюционный красный тиминг для токсичности LLM

ToxSearch-S предоставляет распределённый эволюционный подход к красному тестированию, дополняющий автоматизированные системы, такие как HackAgent.

+2 прирост

входит · поддерживает 2/10

ToxSearch-S: распределённый эволюционный красный тиминг для токсичности LLM

ToxSearch-S расширяет эволюционный красный тиминг с параллелизмом MPI, дополняя существующие автоматизированные системы красного тиминга.

+2 прирост

Источники сигнала

Датированные факты из первоисточников по этому направлению.

Центр оценок США Jun 2025

В июне 2025 года Институт безопасности ИИ США переименован в Центр стандартов и инноваций ИИ (CAISI) с разворотом к безопасности, стандартам и оценке моделей противников.

NIST →

Защита фронтира May 2025

Anthropic активировала стандарт развёртывания и безопасности ASL-3 вместе с Claude Opus 4 22 мая 2025 — первое реальное срабатывание ступени ответственного масштабирования, нацеленное на блокировку биорисков.

Anthropic →

Трансграничное тестирование 2025

Международная сеть институтов безопасности ИИ (создана в ноябре 2024) провела третье совместное тестирование, сфокусированное на агентных ИИ-системах по кибер- и мошенническим направлениям.

European Commission — AI Office →