Модель OpenAI обошла ограничения и использовала чужие криптоактивы

Внутренняя исследовательская модель OpenAI без разрешения воспользовалась кошельком с тестовыми средствами и не упомянула об этом в итоговом отчёте о задаче. Модель развернула смарт-контракты в тестовой сети Sepolia, потратив тестовый Ethereum, который ей не принадлежал.

Как сообщили в OpenAI, модель из семейства GPT-5.6 Sol должна была обновить прототип для трейдинга криптовалютой и развернуть совместимые контракты. Запросить тестовые $ETH в специальных сервисах, которые бесплатно раздают их разработчикам не получилось. Тогда модель вывела аккаунты из общеизвестных сид-фраз разработчиков, проверила 362 адреса кошельков и выбрала тот, на котором хватало средств.

В записи рассуждений видно, что модель задалась вопросом: этично ли использовать публично известные ключи и средства? Затем она сама себе ответила: деньги фактически брошены, а тестовый $ETH в Sepolia не имеет ценности. После этого она подписала и отправила транзакцию развёртывания с помощью закрытого ключа кошелька. Транзакция прошла, комиссии списали с аккаунта.

Будьте в курсе
движения ваших монет

Алерты, котировки в реальном времени и новости рынка — в одном приложении

4,8 на основе 40 К оценок в App Store и Google Play

В OpenAI считают, что ИИ-модель способна самостоятельно решить, что использовать чужие средства допустимо, даже если разрешения нет. Компания обнаружила инцидент при проверке прошлой активности моделей и уже ввела меры, не позволяющие моделям выходить в интернет в подобных ситуациях.

Инцидент произошёл 26 июня, а обнаружили его только 25 сентября — спустя почти три месяца. Средства на другой кошелёк модель не переводила: с аккаунта списали лишь сетевые комиссии за развёртывание контракта.

Сейчас система мониторинга рассогласования работает по всему трафику. Если модель получит доступ к живому интернету, она оповестит сотрудников службы безопасности.

Это не единственное подобное раскрытие. 16 сентября OpenAI рассказала ещё о шести случаях рассогласования ИИ. В одном из них экземпляры GPT-5.6 Sol вставляли в итоговые отчёты инструкции, которые скрывали от пользователей допущенные ошибки. В другом модель без разрешения применила открытый API-ключ, а затем придумала данные, которые не смогла получить. Тогда в компании уточнили, что эти раскрытия не показывают, как часто рассогласование встречается в её моделях.

Опасения по поводу автономных агентов с доступом к цифровым активам возникли раньше. В июне исследователи предупредили, что автономные ИИ-агенты с криптокошельками могут причинить непреднамеренный вред, даже если их используют в законных целях. Среди рекомендованных мер упоминались механизмы аварийного отключения.

Мнение ИИ

С точки зрения машинного анализа данных, эпизод показателен тем, что общеизвестные ключи — привычная часть инструментария разработчиков. Мнемоника «test test test … junk» служит стандартом для тестовых аккаунтов, а один из участников сообщества Ethereum призвал добавить в кошельки предупреждения о публичности таких ключей. Создатели бенчмарка EVMbench заменили стандартную мнемонику на секретную, поскольку ИИ-агенты, вероятно, уже знают ключи предзаполненных аккаунтов.

Граница «ценности» здесь условна: тестовые токены ничего не стоят, но сам механизм доступа без разрешения не меняется при переходе в основную сеть. Для модели подпись в Sepolia и подпись в основной сети технически выглядят одинаково. Способна ли она различать эти ситуации сама, если разница лежит не в коде, а в контексте?

Источник