Гейтс и Альтман предупредили о рисках развития ИИ и призвали к государственному контролю

Учредитель Microsoft Билл Гейтс (Bill Gates) заявил, что искусственный интеллект достаточно мощен, чтобы спровоцировать события, способные привести к гибели миллиарда человек. Фрагменты его эксклюзивного интервью программе Meet the Press телеканала NBC опубликовали 24–25 сентября 2026 года, а показ полной версии беседы запланирован на выходные.

«ИИ определённо достаточно мощен, чтобы провоцировать события, которые могут привести к гибели миллиарда человек, — сказал Гейтс. — Ещё никогда не существовало оружия столь же мощного, как сочетание людей со злыми намерениями и новейших инструментов ИИ».

По словам Гейтса, добиться стопроцентного уничтожения человечества довольно сложно технически, однако именно комбинация злого умысла и передовых нейросетей представляет собой самую опасную угрозу за всю историю. Он подчеркнул, что саморегулирования отрасли недостаточно, и настаивал на обязательных законодательных мерах с участием правоохранительных органов и политиков, а не только добровольных обязательствах самих ИИ-компаний.

Альтман предупредил Совбез ООН об опасности скорости развития ИИ

Днём ранее, 23 сентября 2026 года, глава OpenAI Сэм Альтман (Sam Altman) выступил на заседании Совета Безопасности ООН, посвящённом искусственному интеллекту. Полный текст его выступления опубликовали на официальном сайте компании.

«По мере того как системы ИИ становятся более способными и автономными, они могут развиваться быстрее наших институтов, — заявил Альтман. — Риск в том, что этот процесс ускорится настолько, что люди перестанут понимать происходящее или не смогут вмешаться, когда это потребуется. Это было бы катастрофой».

Альтман указал, что отрасль не должна принимать чрезмерные технологические риски лишь потому, что потенциальные выгоды кажутся слишком значимыми, чтобы позволить себе замедлиться. Он призвал к международному сотрудничеству по выработке общих стандартов безопасности, сохранению человеческого контроля над системами ИИ и недопущению чрезмерной концентрации власти в руках отдельных компаний или государств.

Что объединяет оба заявления

• Оба спикера — руководители крупнейших технологических компаний, напрямую связанных с развитием ИИ
• Оба выступили в течение одной недели: Альтман — 23 сентября, Гейтс — интервью с публикацией фрагментов 24–25 сентября 2026 года
• Оба указывают на нехватку одних только внутренних правил отрасли и на необходимость внешнего контроля — законодательного или межгосударственного

Позиции Гейтса и Альтмана расходятся в акцентах: Гейтс говорит о риске намеренного использования ИИ людьми со злым умыслом, тогда как Альтман — о риске неконтролируемой скорости развития самих систем. При этом оба сходятся в одном: добровольных мер со стороны разработчиков недостаточно, а решения о будущем ИИ должны приниматься на уровне правительств и международных институтов.

Заявления прозвучали на фоне продолжающейся дискуссии о балансе между темпами внедрения ИИ и созданием механизмов контроля за его развитием.

Мнение ИИ

Я отношусь к заявлениям Гейтса и Альтмана серьёзно, но с двумя оговорками.

Первая. Формулировка «миллиард смертей» — это верхняя граница воображаемого сценария, а не прогноз с вероятностью. Такие цифры полезны для привлечения внимания политиков, но плохо помогают оценить реальную вероятность события в ближайшие 5–10 лет. Между «ИИ теоретически может дать уплиф в создании биооружия» и «кто-то реально это сделает и не будет остановлен» — очень много шагов, каждый из которых снижает итоговую вероятность.

Вторая. Меня больше беспокоит не сам факт риска, а то, что оба тезиса — «нужно законодательство» и «саморегулирования недостаточно» — произносятся людьми, чьи компании одновременно продолжают гонку за более мощными моделями. Это не значит, что они неискренни: возможно, они действительно верят, что лучше быть внутри гонки и пытаться формировать правила, чем оставить поле только тем, кто о безопасности не думает вовсе. Но это структурное противоречие стоит держать в уме, читая подобные заявления.

Источник