Виталик Бутерин: ИИ по-прежнему не способен оценивать аргументацию новых текстов

Сооснователь Ethereum Виталик Бутерин выявил область, где люди всё ещё имеют преимущество перед ИИ, указав на очевидное слабое место последних в определении основной аргументации новых публикаций, которые ещё не были широко охвачены в данных для обучения.

Виталик написал в июле что ИИ постепенно превосходит людей в каждой отдельной способности. Это утверждение было сделано в том же месяце, когда ИИ-инструмент определил его стиль письма и назвал его автором документа Ethereum, написанного им анонимно.

Комментарии представили последний пост Виталика как предупреждение для крипто-команд и трейдеров, которые полагаются на сводки от ИИ вместо чтения полных документов, таких как белые книги, аудиты и предложения по управлению (governance).

Будьте в курсе
движения ваших монет

Алерты, котировки в реальном времени и новости рынка — в одном приложении

Наведите камеру телефона, чтобы установить

4,8 на основе 40 К оценок в App Store и Google Play

Виталик Бутерин: Знания отличаются от мудрости

Виталик’s октябрьский 29 пост в X называет способность, в которой, по его мнению, люди всё ещё превосходят машины, отмечая, что ИИ «чрезвычайно информирован и обладает исключительной способностью выявлять отсылки практически к чему угодно, но не очень мудр, поэтому выносит лишь поверхностные суждения о том, какую мысль пытается донести текст».

Сооснователь Ethereum отметил, что этот контраст особенно заметен, когда модель впервые знакомится с материалом.

Модели ИИ могут опираться на вспомогательную литературу и годы человеческих комментариев при анализе известных текстов. Однако с новыми эссе эти чат-боты не имеют доступа к аналогичному уровню справочных материалов, поэтому модели приходится опираться преимущественно на сами слова.

Замечание Виталика было вызвано спором в X вокруг статьи Wall Street Journal об обязательном курсе Humanidades 10 для первокурсников Гарварда.

Один пользователь, утверждавший, что современные модели ИИ уже превосходят людей как партнёры по обсуждению классических произведений, получил вызов от другого участника, который заявил, что чат-боты пока генерируют «мусор», когда дают обратную связь по её эссе.

История взаимодействия Виталика с ИИ-анализом текста

В июне, чтобы проверить, удалось ли ИИ преодолеть анонимность в сети, Виталик Бутерин запустил открытый вызов: найти опубликованный им несколько лет назад документ под псевдонимом.

Виталик подтвердила 6 июля команда Фрэнклина Ванга из Co-Invest выиграла конкурс. Инструмент, определивший победителя, оценил вероятность авторства Бутерина примерно в 20% после анализа 27 текстов.

Документ, на основе которого был организован конкурс, прошёл через несколько этапов обработки, затрудняющих установление личности автора. Анонимная версия EIP-7503 была написана на китайском языке, затем обработана локальной моделью Qwen 2.5, после чего Виталик вручную откорректировал перевод.

По словам Ванга, модель определила правильный документ, анализируя стиль рассуждений — например, то, как Виталик объясняет алгоритмы и технические идеи, — а не словарный запас.

Виталик утверждал, что машины продолжают превосходить людей один навык за раз, а не все сразу. Две недели спустя, 20 июля.

Почему это важно для крипто-команд, использующих ИИ

Корпоративные практическое преимущество занимается безопасностью в криптографии. Виталик недавно предупредил, что ИИ может ослабить ключевые элементы защиты криптовалют в течение двух лет, и поддерживает инструменты, обеспечивающие участие человека в процессе, включая «параноидальный режим» для чатов с ИИ и более раннюю идею управления через «кнопку вычислительной зимы».

Поверхностное чтение — это именно тот режим отказа, на который он указывает. Команды, передающие аудит смарт-контрактов, исследования и графики выпуска токенов агентам ИИ, могут получить бегло изложенную сводку, которая упускает тонкую уязвимость, поскольку модель проверяет ссылки, а не оценивает аргумент, с которым она ранее не сталкивалась.

Не все разделяют его скептицизм. Некоторые инвесторы утверждают, что ИИ уже превосходит лучших человеческих умов в таких областях, как математика.

Источник