Теория ценности в исследованиях AI alignment

Оба критикуют согласие по предпочтениям/меткам как неадекватную замену value alignment.

Расхождение моральных обоснований показывает, что согласие по меткам/предпочтениям — неадекватная теория ценности для alignment.

Исследование теории ценности критикует preferences как заменитель культурно укоренённых человеческих ценностей.

Dual-use риск цензуры требует от alignment-исследований явнее задавать ценности и митигации misuse, а не только максимизировать compliance.

Критика теории ценности ставит вопрос, что оптимизируют методы формирования характера при неопределённых values.