«Последнее изобретение человечества»: Сбербанк предупредил об опасности сверхразума
19.07.2019
Источник:
Forbes
Cбербанк в ежегодном отчете о рынке робототехники предупредил, что «сверхразум может стать едва ли не последним изобретением человечества»
Стремительное развитие робототехники потенциально опасно для человека. Помимо того, что к середине 2030-х третья волна роботизации затронет 30% профессий, искусственный интеллект может стать «фундаментальной проблемой человечества наряду с ядерным оружием, проблемой экологии и использованием биотехнологий», говорится в аналитическом обзоре рынка робототехники, подготовленном Сбербанком. «Вопросы регулирования сильного искусственного интеллекта являются, возможно, самым серьезным вызовом в истории права — и человечества. Недооценивать его было бы кардинально неверно», — отмечают авторы аналитического исследования.
«Проблема заключается в том, — говорится в отчете, — что, по мнению целого ряда экспертов, сверхразум может стать едва ли не последним изобретением человечества. Намного превосходя человечество в умственных способностях, такой сверхразум будет непредсказуем. И очевидным вариантом развития событий будет полное уничтожение человечества таким сверхразумом — если не специальное, то случайное».
В документе приводится пример сценария, предложенного американским документалистом Джеймсом Барратом. Так как современный суперкомпьютер работает вдвое быстрее человеческого мозга благодаря использованию ИИ, в какой-то момент он перепишет собственную программу и инструкции, превзойдя интеллектуальный уровень человека. За короткое время он станет в тысячу раз умнее любого человека, и его развитие уже невозможно будет остановить. Баррат называет это искусственным суперинтеллектом (ИСИ).
«Поставьте себя на место ИСИ, — рассуждает Баррат. — Представьте, что вы очнулись в узилище, охраняемом мышами. И не просто мышами, а мышами, с которыми вы можете общаться. Какую стратегию вы используете, чтобы обрести свободу? А освободившись, как будете относиться к своим вчерашним тюремщикам-грызунам, даже если узнаете, что именно они вас создали?»
С 2009 по 2017 год количество промышленных роботов в мире выросло с 60 000 до 381 000, а в ближайшие два года вырастет до 630 000, прогнозируют авторы отчета Сбербанка. Согласно отчету, объем рынка промышленной робототехники к 2022 году превысит $210 млрд. Такой рост связан с автоматизацией производства и мощным скачком развития сервисной робототехники, которая расширит возможности человека.
Стремительное развитие робототехники потенциально опасно для человека. Помимо того, что к середине 2030-х третья волна роботизации затронет 30% профессий, искусственный интеллект может стать «фундаментальной проблемой человечества наряду с ядерным оружием, проблемой экологии и использованием биотехнологий», говорится в аналитическом обзоре рынка робототехники, подготовленном Сбербанком. «Вопросы регулирования сильного искусственного интеллекта являются, возможно, самым серьезным вызовом в истории права — и человечества. Недооценивать его было бы кардинально неверно», — отмечают авторы аналитического исследования.
«Проблема заключается в том, — говорится в отчете, — что, по мнению целого ряда экспертов, сверхразум может стать едва ли не последним изобретением человечества. Намного превосходя человечество в умственных способностях, такой сверхразум будет непредсказуем. И очевидным вариантом развития событий будет полное уничтожение человечества таким сверхразумом — если не специальное, то случайное».
В документе приводится пример сценария, предложенного американским документалистом Джеймсом Барратом. Так как современный суперкомпьютер работает вдвое быстрее человеческого мозга благодаря использованию ИИ, в какой-то момент он перепишет собственную программу и инструкции, превзойдя интеллектуальный уровень человека. За короткое время он станет в тысячу раз умнее любого человека, и его развитие уже невозможно будет остановить. Баррат называет это искусственным суперинтеллектом (ИСИ).
«Поставьте себя на место ИСИ, — рассуждает Баррат. — Представьте, что вы очнулись в узилище, охраняемом мышами. И не просто мышами, а мышами, с которыми вы можете общаться. Какую стратегию вы используете, чтобы обрести свободу? А освободившись, как будете относиться к своим вчерашним тюремщикам-грызунам, даже если узнаете, что именно они вас создали?»
С 2009 по 2017 год количество промышленных роботов в мире выросло с 60 000 до 381 000, а в ближайшие два года вырастет до 630 000, прогнозируют авторы отчета Сбербанка. Согласно отчету, объем рынка промышленной робототехники к 2022 году превысит $210 млрд. Такой рост связан с автоматизацией производства и мощным скачком развития сервисной робототехники, которая расширит возможности человека.