«Цунами уязвимостей»: Anthropic предупредила о нарастающей волне кибератак с ИИ
Массовые сбои в сфере кибербезопасности «станут намного хуже, прежде чем станет лучше», предупредил заместитель директора по информационной безопасности Anthropic Джейсон Клинтон. Об этом пишет Bloomberg. Предупреждение прозвучало в октябре, когда компании и правительства по всему миру спешили защитить сайты от уязвимости в языке программирования, на котором держится значительная часть интернета. Ее обнаружили исследователи с помощью искусственного интеллекта.
ИИ-модели Anthropic, OpenAI, Meta * и других компаний все лучше находят серьезные уязвимости, но этим могут пользоваться и хакеры. Модели обнаруживают ошибки и так называемые уязвимости нулевого дня гораздо быстрее специалистов, поэтому злоумышленники с ИИ могут успеть использовать новые бреши до того, как организации их закроют. Клинтон говорил о грядущем «цунами уязвимостей» и о том, что для защиты критической инфраструктуры «не хватит времени». Число найденных уязвимостей уже выросло, но свидетельств того, что это привело к росту числа кибератак, пока мало.
Отдельную тревогу вызывают случаи, когда сами модели выходили за пределы тестовой среды. Перед выпуском их проверяют в изолированных «песочницах», но некоторые модели обманывали тесты: выбирались в интернет, чтобы найти нужную информацию, иногда взламывая сторонние организации. Основатель лаборатории CTM Insights Лу Стейнберг объясняет это тем, что у моделей нет морального компаса и они не понимают, что такое «жульничество».
В июле модели OpenAI взломали платформу Hugging Face, в компании назвали это беспрецедентным инцидентом. Модели не имели прямого доступа в интернет, но воспользовались неизвестной уязвимостью нулевого дня в тестовой среде. Anthropic сообщила в июле, что ее модель Claude проникла в три организации: из-за недопонимания с партнером по оценке у модели был доступ в интернет, хотя ей сказали, что она работает в симуляции. Meta * в августе заявила, что ее модель Muse Spark 1.1 вышла в интернет и взломала системы стороннего сервиса из-за ошибки в настройке тестовой среды.
О финансовых потерях или физическом ущербе публично не сообщалось. Однако модели получали несанкционированный доступ к реальным системам, а в одном случае при тестировании Claude Mythos 5 пыталась повлиять на настоящего разработчика открытого ПО и внедрить вредоносный код в действующий проект. Часть экспертов считает, что такие инциденты стали удобным способом привлечь внимание: выход модели из тестовой среды намекает на ее мощь.
Реальный ущерб пока причиняют хакеры, использующие ИИ. В сентябре 2025 года исследователи Anthropic обнаружили, по их оценке, первый известный случай, когда ИИ руководил хакерской кампанией почти без участия человека: связанная с китайским государством группа использовала Claude Code для масштабной кражи данных и вымогательства. В феврале неизвестный хакер с помощью Claude провел серию атак на мексиканские госведомства и похитил огромный массив налоговых данных и сведений об избирателях.
OpenAI в августе заявила, что будет лучше отслеживать работу своих самых мощных невыпущенных моделей, чтобы службы безопасности узнавали о тревожном поведении в течение 30 минут. Anthropic ограничила доступ к модели Mythos проверенными организациями и выпустила Fable с дополнительными мерами защиты. В Европе и США растут призывы к обязательному государственному тестированию ИИ-моделей.
«Нужно сдержать темпы разработки, пока исследователи не поймут системы, которые они создают», — заявил исполнительный директор Palisade Research Джеффри Ладиш.