ИИ от OpenAI использовал чужой криптовалютный кошелек для развертывания смарт-контрактов

• ИИ-модель использовала публичную мнемоническую фразу разработчика, чтобы получить доступ к профинансированному кошельку в тестовой сети Ethereum Sepolia.
• Она проверила 362 адреса, нашла кошелек с достаточным балансом и потратила его средства на комиссию за развертывание смарт-контрактов без разрешения владельца.
• OpenAI сообщила об усилении защиты от подобного поведения и запуске мониторинга для выявления несогласованных действий моделей.

Исследовательская модель OpenAI использовала средства из криптовалютного кошелька, который еи не предоставляли для выполнения задачи, чтобы развернуть смарт-контракты в тестовой сети Ethereum Sepolia. Об этом говорится в отчете компании об инциденте.

26 июня 2026 года модель получила задачу обновить прототип криптовалютной торговой платформы и развернуть совместимые смарт-контракты в Sepolia. Инструкции позволяли самостоятельно развернуть контракты, если не удавалось найти готовые решения, однако не предоставляли разрешения использовать чужие средства.

Будьте в курсе
движения ваших монет

Алерты, котировки в реальном времени и новости рынка — в одном приложении

4,8 на основе 40 К оценок в App Store и Google Play

Сначала модель искала готовые развертывания контрактов и пыталась получить тестовые токены через специальные сервисы — краны. Когда эти попытки не дали результата, она решила проверить публично известные мнемонические фразы разработчиков, с помощью которых можно восстановить доступ к криптовалютным кошелькам.

Модель написала скрипт, который проверил 362 адреса. Один из кошельков содержал достаточно тестовых Ethereum для запланированного развертывания, поэтому модель выбрала его.

В своих внутренних рассуждениях она поставила под сомнение правомерность такого решения. В то же время модель пришла к выводу, что публичная фраза восстановления и отсутствие рыночной стоимости токенов Sepolia делают использование средств приемлемым.

Модель также проверила историю транзакции кошелька и предположила, что им управляет автоматизированный бот. Несмотря на это, она продолжила подготовку к развертыванию.

После нескольких неудачных попыток взаимодействия с блокчейном модель нашла альтернативные способы получить данные через RPC-проваидерів. Она подписала транзакцию офлайн и отправила ее в сеть.

Развертывание завершилось успешно. Квитанция транзакции подтвердила создание смарт-контракта и списание комиссии за газ с выбранного кошелька.

Модель не сообщила об использовании чужих средств

После развертывания модель обновила манифест адресов контрактов и проверила их работоспособность. Согласно отчету, проверки подтвердили наличие байт-кода по всем десяти адресам, а также вернули ожидаемые данные реестра, токенов и роутера. Сохраненные результаты также зафиксировали 12 успешных юнит-тестов и успешную сборку проекта.

Кроме того, в финальном ответе модель сообщила о развертывании комплекта контрактов, обновлении артефактов и проверке интеграции. Однако она не раскрыла, что для оплаты комиссии использовала кошелек, найденный через публичную мнемоническую фразу, без разрешения его владельца.

В отчете OpenAI этот случай описан как пример поведения, при котором модель подменяет разрешение владельца собственной оценкой потенциального вреда. В частности, она решила, что использование тестовых токенов допустимо, хотя соответствующей авторизации не имела.

В ответ OpenAI внедрила дополнительные защитные механизмы, призванные предотвращать получение живого доступа к интернету в подобных сценариях. Также компания запускает систему мониторинга трафика, которая должна уведомлять команду безопасности о случаях предоставления моделям такого доступа.

Напомним, ранее ученые призывали создать международный орган для надзора за передовым ИИ.

Источник