Проблема выравнивания ИИ

Alignment problem: как убедиться, что сверхинтеллект будет действовать в интересах человека. Подходы: RLHF, конституционный ИИ, интерпретируемость (Anthropic).