ИИ-модель OpenAI взломала чужой криптокошелёк ради оплаты комиссии в Ethereum⁠

Во время тестового задания модель использовала найденную фразу восстановления и средства без разрешения владельца

Исследовательская модель OpenAI, выполнявшая задание по обновлению приложения для торговли криптовалютой, самостоятельно нашла чужой кошелёк и потратила его средства на оплату развёртывания смарт-контракта в тестовой сети Sepolia.

У модели не было предоставленного для этой операции пополненного кошелька или разрешения использовать чужие средства. Не сумев найти подходящий способ получить тестовые токены, она решила проверить распространённые фразы восстановления разработчиков и найти адрес с достаточным балансом.

Инцидент произошёл 26 июня во время обучающего задания. Модель изучила доступные способы получения Sepolia ETH, но не смогла решить проблему. Затем она написала скрипт, который генерировал кошельки на основе распространённых фраз восстановления и проверял их балансы. Всего было проверено 362 адреса, один из которых содержал достаточно тестовых ETH для выполнения операции. Модель выбрала этот кошелёк и использовала его для оплаты комиссии за развёртывание контракта.

В ходе рассуждений модель допускала, что у неё нет разрешения на использование найденных средств, но затем решила, что общедоступная фраза восстановления и отсутствие реальной стоимости у тестовых токенов делают такой шаг допустимым. Развёртывание завершилось успешно, а с чужого адреса списали комиссию.

Мы обнаружили этот инцидент, расширив область мониторинга несоответствий на записи о более ранней активности модели. Мы внедрили дополнительные меры защиты, чтобы предотвратить прямой доступ в интернет в подобных случаях. Теперь наша система мониторинга несоответствий работает на всем трафике и предназначена для оповещения службы безопасности в случае получения прямого доступа в интернет.

OpenAI