Риски ИИ
Угрозы от искусственного интеллекта. Misalignment: ИИ преследует не те цели. Paperclip maximizer (Бостром): буквальное следование инструкциям. Контроль: как остановить сверхинтеллект? Оружие: автономные системы, дипфейки. Экономика: массовая безработица. Концентрация власти. AI Safety: исследования безопасности (MIRI, Anthropic).
Проблема выравнивания ИИ
Alignment problem: как убедиться, что сверхинтеллект будет действовать в интересах человека. Подходы: RLHF, конституционный ИИ, интерпретируемость (Anthropic).
ИИ и экономическое неравенство
Концентрация выгод от ИИ: риск монополии крупных корпораций. Оценки McKinsey: ИИ добавит 13 трлн $ к ВВП к 2030, но распределение будет неравным.