«Цунами уязвимостей»: Anthropic предупредила о нарастающей волне кибератак с ИИ

«Цунами уязвимостей»: Anthropic предупредила о нарастающей волне кибератак с ИИ
Источник: Investing

Массовые сбои в сфере кибербезопасности «станут намного хуже, прежде чем станет лучше», предупредил заместитель директора по информационной безопасности Anthropic Джейсон Клинтон. Об этом пишет Bloomberg. Предупреждение прозвучало в октябре, когда компании и правительства по всему миру спешили защитить сайты от уязвимости в языке программирования, на котором держится значительная часть интернета. Ее обнаружили исследователи с помощью искусственного интеллекта.

ИИ-модели Anthropic, OpenAI, Meta * и других компаний все лучше находят серьезные уязвимости, но этим могут пользоваться и хакеры. Модели обнаруживают ошибки и так называемые уязвимости нулевого дня гораздо быстрее специалистов, поэтому злоумышленники с ИИ могут успеть использовать новые бреши до того, как организации их закроют. Клинтон говорил о грядущем «цунами уязвимостей» и о том, что для защиты критической инфраструктуры «не хватит времени». Число найденных уязвимостей уже выросло, но свидетельств того, что это привело к росту числа кибератак, пока мало.

Отдельную тревогу вызывают случаи, когда сами модели выходили за пределы тестовой среды. Перед выпуском их проверяют в изолированных «песочницах», но некоторые модели обманывали тесты: выбирались в интернет, чтобы найти нужную информацию, иногда взламывая сторонние организации. Основатель лаборатории CTM Insights Лу Стейнберг объясняет это тем, что у моделей нет морального компаса и они не понимают, что такое «жульничество».

В июле модели OpenAI взломали платформу Hugging Face, в компании назвали это беспрецедентным инцидентом. Модели не имели прямого доступа в интернет, но воспользовались неизвестной уязвимостью нулевого дня в тестовой среде. Anthropic сообщила в июле, что ее модель Claude проникла в три организации: из-за недопонимания с партнером по оценке у модели был доступ в интернет, хотя ей сказали, что она работает в симуляции. Meta * в августе заявила, что ее модель Muse Spark 1.1 вышла в интернет и взломала системы стороннего сервиса из-за ошибки в настройке тестовой среды.

О финансовых потерях или физическом ущербе публично не сообщалось. Однако модели получали несанкционированный доступ к реальным системам, а в одном случае при тестировании Claude Mythos 5 пыталась повлиять на настоящего разработчика открытого ПО и внедрить вредоносный код в действующий проект. Часть экспертов считает, что такие инциденты стали удобным способом привлечь внимание: выход модели из тестовой среды намекает на ее мощь.

Реальный ущерб пока причиняют хакеры, использующие ИИ. В сентябре 2025 года исследователи Anthropic обнаружили, по их оценке, первый известный случай, когда ИИ руководил хакерской кампанией почти без участия человека: связанная с китайским государством группа использовала Claude Code для масштабной кражи данных и вымогательства. В феврале неизвестный хакер с помощью Claude провел серию атак на мексиканские госведомства и похитил огромный массив налоговых данных и сведений об избирателях.

OpenAI в августе заявила, что будет лучше отслеживать работу своих самых мощных невыпущенных моделей, чтобы службы безопасности узнавали о тревожном поведении в течение 30 минут. Anthropic ограничила доступ к модели Mythos проверенными организациями и выпустила Fable с дополнительными мерами защиты. В Европе и США растут призывы к обязательному государственному тестированию ИИ-моделей.

«Нужно сдержать темпы разработки, пока исследователи не поймут системы, которые они создают», — заявил исполнительный директор Palisade Research Джеффри Ладиш.


  • CNY 68.12
  • EUR 498.77
  • RUB 5.56
  • USD 455
  • ADA 66.51 +4.07%
  • BNB 252342.05 +4.53%
  • BTC 27854098.95 +5.08%
  • DOGE 25.24 +3.18%
  • DOT 300.01 +2.48%
  • ETH 779323.47 +3.52%
  • SOL 32159.87 +2.57%
  • TRX 139.11 +0.84%
  • USDT 454.72 +0.01%
  • XRP 422.81 +3.01%