Как рассматривают глобальные риски
Глобальные риски — угрозы с последствиями для больших территорий, сообществ или человечества. Их рассматривают по вероятности, масштабу и характеру последствий; катастрофический и экзистенциальный риск требуют разных определений.
Глобальные риски
Экзистенциальные риски
Угрозы существованию человечества. Определение (Бостром): событие, которое уничтожит или необратимо ограничит потенциал цивилизации. Типы: природные (астероид, сверхвулкан), антропогенные (ядерная война, ИИ, биооружие). Future of Humanity Institute (Оксфорд). Вероятность в XXI веке: 1-20% (оценки). Prevention vs mitigation.
Биологические риски
Угрозы от патогенов. Естественные пандемии: COVID-19 (7+ млн смертей), испанка (50 млн). Биооружие: запрещено (1972), но риск сохраняется. Синтетическая биология: создание патогенов в лаборатории. Gain-of-function research: усиление вирулентности. Biosecurity: контроль двойного назначения. BARDA, Johns Hopkins Center.
Риски ИИ
Угрозы от искусственного интеллекта. Misalignment: ИИ преследует не те цели. Paperclip maximizer (Бостром): буквальное следование инструкциям. Контроль: как остановить сверхинтеллект? Оружие: автономные системы, дипфейки. Экономика: массовая безработица. Концентрация власти. AI Safety: исследования безопасности (MIRI, Anthropic).