OpenAI готовит Astra — первую модель компании с критическим уровнем возможностей в кибербезопасности

OpenAI впервые присвоила собственной модели критический уровень киберопасности. Astra, по оценке компании, способна без пошаговых подсказок человека находить неизвестные уязвимости в защищённых системах и выстраивать из них цепочки атак. Компания на несколько недель приостановила часть разработки, чтобы усилить защиту. Для банковского клиента в Казахстане это не новость из мира технологий: если стоимость профессиональной атаки падает, растёт не изощрённость взломов, а их количество.

Сразу разведём две вещи, которые легко перепутать. Astra не выпущена и к августовскому взлому Hugging Face отношения не имеет — это отдельно подчёркивают и сама компания, и профильные издания. Banker.kz писал о приостановке разработки Astra 19 августа; сегодняшнее сообщение — продолжение той же истории, а не сообщение о состоявшемся инциденте.

Что именно объявила компания

У OpenAI есть внутренняя шкала оценки опасных возможностей моделей — Preparedness Framework. Критический уровень в кибербезопасности означает способность модели самостоятельно, без человека, находить и создавать работающие эксплойты для ранее неизвестных уязвимостей в защищённых реальных системах либо разрабатывать сквозные стратегии атак.

Astra стала первой моделью компании, которую отнесли к этому уровню.

Что компания сделала в ответ:

• изолированные тестовые среды и ограниченный доступ модели к сети и инструментам;
• усиленное шифрование весов модели — то есть защита самого «мозга» от кражи;
• сплошной мониторинг действий модели во время обучения и тестирования;
• более строгие ограничения на опасные киберзапросы и отдельные классификаторы, отсеивающие их;
• ужесточённый режим для пользователей с повышенным уровнем риска;
• тестирование совместно с государственными структурами и профильными организациями по безопасности до выпуска.

По сообщениям, на внутренних тестах Astra находила ранее неизвестные уязвимости и объединяла их в цепочки — от обработки подготовленного файла до выхода за пределы защищённой среды. Отдельно отмечается, что модель заметно реже соглашалась на запрещённую киберпомощь, чем предыдущее поколение.

Оговорка о цифрах. Часть конкретных показателей — результаты отдельных бенчмарков, доли отказов, число найденных уязвимостей — приводится в пересказах со ссылкой на внутренние оценки OpenAI. В опубликованном компанией материале и в сообщениях профильных изданий эти цифры мы подтвердить не смогли. Полные данные обещаны вместе с системной картой модели. До этого момента их стоит считать заявлениями разработчика о самом себе, а не независимо проверенными результатами.

Почему это банковская новость, а не техническая

Тут легко решить, что речь о чужой отрасли. Речь о вашей.

Стоимость атаки — это экономическая величина. Найти неизвестную уязвимость в защищённой системе сегодня может ограниченное число специалистов, их время стоит дорого, и поэтому такие атаки применяют против целей, которые окупают затраты. Автоматизация этой работы меняет не качество атак, а их себестоимость. Дешёвая атака идёт туда, куда дорогая не шла — в средние банки, в микрофинансовые организации, в страховые компании, в бухгалтерии малого бизнеса.

Обороняющаяся сторона получает тот же инструмент. OpenAI прямо говорит, что расширять доступ намерена в первую очередь для защитного применения — поиска и устранения уязвимостей. Это честная симметрия: одна и та же способность работает в обе стороны. Но у неё есть перекос по времени — нападающему достаточно найти одну дыру, обороняющемуся нужно закрыть все.

И самое неприятное для розничного клиента: технологический уровень атаки почти не влияет на то, как вас обманут. Мы разбирали 6 августа отчёт Антифрод-центра: за два года работы предотвращены хищения на 117 млрд тенге. Подавляющее большинство украденных денег ушло не через взлом банковских систем, а через самого человека: звонок, уговор, добровольный перевод.

Что меняется для казахстанского клиента — и что нет

Не меняется главное направление угрозы. Каждое пятое преступление в Казахстане — интернет-мошенничество, и Banker.kz писал об этом 21 августа. Схемы держатся на социальной инженерии, а не на уязвимостях нулевого дня. Никакая модель не нужна, чтобы позвонить и представиться службой безопасности банка.

Может измениться масштаб утечек. Персональные данные — сырьё для социальной инженерии. Чем дешевле взлом баз, тем больше данных в обороте и тем убедительнее звонок. Вопрос об утечке данных миллионов казахстанцев Banker.kz разбирал 12 августа — и это ровно тот канал, который автоматизация усиливает.

Может вырасти нагрузка на средние организации. Крупные банки давно живут в режиме постоянных атак и вкладываются в защиту. МФО, страховые компании, небольшие финтех-сервисы защищены слабее, а данных о клиентах хранят немало.

И появляется третий сценарий — цепочка через партнёра. Взламывают не банк, а подрядчика: колл-центр, разработчика приложения, сервис рассылок. Это не новая идея, но автоматизация делает перебор таких целей дешёвым.

Что делает регулятор

Казахстан двигался в эту сторону ещё до сегодняшней новости.

С 12 июля действуют новые требования к кибербезопасности банков. Отдельным решением рейтинговые агентства обязали готовиться к кибератакам. С 14 августа срок жизни кода в сервисе цифровых документов сокращён с двадцати минут до одной — узкая, но точная мера против схем с задержкой.

Уголовная сторона тоже подтянулась. Banker.kz писал 27 августа о статье 232-1 Уголовного кодекса: за передачу банковской карты или доступа к счёту третьим лицам предусмотрено вплоть до лишения свободы. Это удар по инфраструктуре обналичивания — по дропперам, без которых украденные деньги некуда выводить.

Логика регулятора понятна: технически совершенную атаку остановить трудно, а вот вывод денег после неё — можно.

Что делать вам

Совет здесь скучный ровно настолько, насколько эффективный. Против автоматизированного поиска уязвимостей рядовой клиент сделать не может ничего — это забота банка. Но 99% реальных потерь происходят там, где что-то может сделать именно он.

Разделите деньги по счетам. Карта для повседневных трат с небольшим остатком и лимитами, отдельный счёт для сбережений без привязанной карты. Компрометация первого не даёт доступа ко второму.

Поставьте лимиты на операции. Дневной лимит на переводы и снятие — самая недооценённая настройка в банковском приложении. Она не мешает жить и ограничивает ущерб.

Включите «Стоп-кредит», если не планируете занимать. Бесплатный добровольный отказ от оформления займов на ваше имя. Работает против самой дорогой схемы — кредита, оформленного по утёкшим данным.

Не сообщайте коды и не показывайте цифровые документы по чужой просьбе. Просьба сделать это дистанционно — сама по себе признак мошенничества, каким бы убедительным ни был повод.

И никогда никому не передавайте карту за вознаграждение. Это не подработка, это статья.

Отдельно для бизнеса. Проверьте, у кого есть доступ к вашим данным помимо вас: подрядчики, интеграторы, сервисы рассылок. Слабое звено обычно не внутри компании.