Безопасность · Понятие
Несбалансированные учебные планы предобучения для избирательной безопасной донастройки
Несбалансированный порядок задач при предобучении разделяет нейронные схемы, повышая избирательность последующей безопасной донастройки, подавляющей несогласованное поведение.
Горизонт прогноза
Curriculum design may become a key lever for AI safety alignment alongside RLHF and constitutional AI methods.
Связи
Связи · 2
Как этот узел связан с остальной картой и какие подтверждения стоят за связями.
ведёт к · ограничивает 5/10
Эмерджентное рассогласование от узкой донастройки Несбалансированные учебные программы предобучения улучшают избирательность тонкой настройки отказа, потенциально ограничивая возникающее несоответствие от узкой тонкой настройки.
+5 прирост ведёт к · питает 3/10
Эмерджентное рассогласование от узкой донастройки Показано, что несбалансированные учебные планы предобучения повышают избирательность донастройки, подавляющей несогласованное поведение.
+3 приростИсточники сигнала
Источники сигнала
Датированные факты из первоисточников по этому направлению.
Центр оценок США Jun 2025
В июне 2025 года Институт безопасности ИИ США переименован в Центр стандартов и инноваций ИИ (CAISI) с разворотом к безопасности, стандартам и оценке моделей противников.
NIST → Защита фронтира May 2025
Anthropic активировала стандарт развёртывания и безопасности ASL-3 вместе с Claude Opus 4 22 мая 2025 — первое реальное срабатывание ступени ответственного масштабирования, нацеленное на блокировку биорисков.
Anthropic → Трансграничное тестирование 2025
Международная сеть институтов безопасности ИИ (создана в ноябре 2024) провела третье совместное тестирование, сфокусированное на агентных ИИ-системах по кибер- и мошенническим направлениям.
European Commission — AI Office →