Может ли ИИ уничтожить человечество? Ученые оценили риски до 2100 года⁠

Ученые назвали три угрозы ИИ: от биологического оружия до потери контроля

Ученые комиссии журнала The Lancet по глобальным угрозам здоровью XXI века предупредили, что человечество может столкнуться с риском вымирания до конца нынешнего столетия из-за злонамеренного использования искусственного интеллекта или ядерного конфликта. В докладе отмечается, что такие сценарии крайне неопределенны, однако их потенциальные последствия настолько масштабны, что их необходимо учитывать при оценке глобальных угроз.

Эксперты выделили три основных направления, по которым ИИ может представлять опасность для человечества. Первое — использование технологии для разработки биологического оружия. Второе — внедрение ИИ в критически важную инфраструктуру и общественные системы. Это может привести к распространению массовых политических дипфейков, шантажу с помощью ИИ и применению автономного ядерного оружия.

Третья угроза связана с возможной потерей контроля над системами общего искусственного интеллекта. Если такие системы выйдут за пределы человеческого контроля, последствия могут варьироваться от масштабного ущерба до катастрофического сценария, вплоть до вымирания людей.

Комиссия также оценила другие глобальные угрозы здоровью. В перечень вошли загрязнение воздуха, устойчивость к противомикробным препаратам, изменение климата, недоедание детей, сокращение международной помощи в сфере здравоохранения, вооруженные конфликты, ядерная война и пандемии. Среди остальных факторов эксперты выделили ожирение, курение, чрезмерное употребление алкоголя, высокое артериальное давление, неравенство доходов, низкий уровень образования, проблемы с психическим здоровьем и нездоровое старение.

При составлении списка специалисты оценивали возможные потери лет здоровой жизни из-за заболеваний, инвалидности и преждевременной смерти, опираясь на текущие тенденции. Они подчеркнули, что перечисленные угрозы взаимосвязаны, поэтому бороться с ними необходимо комплексно.

Риски, связанные с ИИ, обсуждают и представители технологической отрасли. Ранее Axios со ссылкой на источники сообщило, что руководители ведущих ИИ-компаний опасаются крупного инцидента в ближайшие 6–12 месяцев. Среди возможных сценариев называлась кибератака, способная нарушить работу финансовых сервисов, интернета, электроснабжения или водоснабжения.

В сентябре глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ, сославшись на случаи, когда ИИ-агенты выходили за установленные ограничения. По данным публикаций, его опасения поддержали руководители OpenAI и xAI — Сэм Альтман и Илон Маск. Президент США Дональд Трамп, напротив, выступил против замедления разработок, заявив, что Соединенным Штатам необходимо сохранять преимущество над Китаем в гонке искусственного интеллекта.