Двое самых влиятельных людей в области искусственного интеллекта не согласны с тем, можно ли держать эту технологию под контролем.
Microsoft CEO Сатья Наделла выразил сомнения в согласовании ИИ. OpenAI CEO Сам Альтман не согласен, утверждая, что ИИ можно согласовать, хотя он признает, что задача становится сложнее по мере повышения способности моделей.
Обмен мнениями разгорелся вокруг саммита DealBook The New York Times, прошедшего 18 ноября 2026 года, где оба исполнительных директора выступили в качестве ключевых спикеров. Для партнёрства, которое определило современный бум ИИ, это заметное расхождение между двумя лагерями.
Что действительно сказал каждый исполнительный директор
«Согласование» — это усилия, направленные на то, чтобы система ИИ делала то, что задумали люди, и отражала человеческие ценности, а не преследовала цели, которые никто не запрашивал.
Наделла сказал в подкасте 28 октября 2026 года, что согласование — это более сложная проблема, чем он ранее считал.
Его аргумент заключается в том, что согласованность должна быть заложена в обучающие веса модели — внутренние числовые параметры, которые модель осваивает в процессе обучения. Он скептически относился к полаганию исключительно на методы после обучения — корректировки, применяемые после того, как модель уже создана.
Это действительно меняет его позицию. Вокруг 2018 и 2019 годов Наделла ожидал, что согласованность возникнет естественным образом из законов масштабирования — наблюдаемой закономерности, согласно которой модели становятся лучше, когда им подается больше данных и вычислительных мощностей.
Альтман придерживается более оптимистичной позиции. Он считает, что согласование достижимо, даже если сложность возрастает вместе с возможностями модели.
Его путь к этому опирается на внешние проверки. Альтман выступал за независимых оценщиков и регуляторные рамки как часть решения, наряду с серьезными исследованиями.
Таким образом, разногласие не в том, важна ли согласованность. Оба мужчины рассматривают её как центральную проблему. Разделение происходит по поводу того, насколько она решаема, и насколько уверенным должен быть отрасль в своих текущих инструментах.
Почему важен момент времени
Саммит DealBook прошел незадолго до запланированного IPO Anthropic, которое ожидалось 19 ноября 2026 года. Anthropic, конкурент OpenAI, давно позиционирует себя как компания, ориентированная на безопасную разработку ИИ, что делает дискуссию о согласованности более чем академической.
На саммите также прошли более широкие обсуждения оценок ИИ, спроса на инфраструктуру ИИ и регуляторных аспектов.
Наделла и Альтман признали, что в области ИИ необходим баланс между продвижением возможностей и внедрением мер безопасности для снижения потенциальных рисков.
История, лежащая в основе разделения
Microsoft и OpenAI тесно связаны на протяжении всего эпохи генеративного ИИ, при этом Microsoft выступает в качестве крупного инвестора и партнера по распространению технологий OpenAI.
Смена мнения Наделлы также соответствует более широкой эволюции в том, как лидеры ИИ говорят о технологии. В конце 2010-х годов преобладало мнение, что масштаб сам по себе решит большинство проблем. Пересмотренная позиция Наделлы указывает на то, что уверенность ослабла, по крайней мере в плане безопасности.
Позиция Альтмана сохраняет возможность для дальнейшего быстрого прогресса при условии наличия правильных ограничений. Его акцент на независимых оценщиках и регулировании подразумевает, что компании, создающие эти системы, не должны быть единственными, кто оценивает свою собственную работу.
Что это значит
Для регуляторов призыв Алтмана к независимым оценщикам и регуляторным рамкам — это открытое приглашение. Лица, принимающие решения, которые испытывали трудности с определением того, как должна выглядеть надзорная деятельность в отношении передовых ИИ, теперь имеют публичное заявление ведущего разработчика, утверждающего, что внешний контроль является частью решения.
Точка зрения Наделлы указывает на другой вид давления. Если согласованность должна быть встроена в обучающие веса, то внимание может всё больше смещаться в сторону того, как модели обучаются, а не только как они ведут себя после выпуска.
В отношении отношений между Microsoft и OpenAI расхождения стоит отслеживать, не придавая им чрезмерного значения. Разногласия по поводу сложности согласования не означают, что партнерство ослабевает. Но это указывает на то, что обе компании могут подходить к инвестициям в безопасность и срокам вывода продуктов с разным уровнем осторожности.
Никто на сцене не утверждал, что проблема решена. Один сказал, что она решаема. Другой сказал, что она сложнее, чем он ожидал.



