原文标题：《Десятилетняя ссора, формирующая будущее ИИ
Автор оригинала: Keach Hagey
Журналист The Wall Street Journal Кич Хейджи опубликовал подробное расследование, в котором впервые систематически раскрыл десятилетнюю личную вражду между основателями Anthropic и OpenAI на основе многочисленных интервью с нынешними и бывшими сотрудниками и близкими к топ-менеджерам компаний. Глобальное формирование ИИ определяется не только конкуренцией технологических подходов, но и незажившей личной травмой.
Дарио Амодеи в последние месяцы использовал гораздо более резкие формулировки в закрытой переписке, чем в публичных выступлениях. Он сравнил правовой конфликт Сэма Альтмана с Илоном Маском с «спором Гитлера со Сталиным», назвал пожертвование в размере 25 миллионов долларов президента OpenAI Грега Брокмана про-трамповскому суперполитическому комитету «злым» (evil) и сравнил OpenAI и других конкурентов с табачными компаниями, «знающими о вреде, но продолжающими продавать свою продукцию».
После эскалации спора в Пентагоне он снова назвал OpenAI «ложным» (mendacious) в Slack, написав: «Эти факты указывают на модель поведения, которую я неоднократно наблюдал у Сэма Альтмана».
Внутри Anthropic эту стратегию брендинга называют созданием «здоровой альтернативы» для конкурентов; одной из публичных реализаций этого подхода стала реклама во время Супербоула этого года, косвенно высмеивающая OpenAI за встраивание рекламы в чат-ботов.
История началась в гостиной общежития на улице Делано в Сан-Франциско в 2016 году. Здесь жили Дарио и его сестра Даниэла Амодеи, а Брокман, сооснователь OpenAI, часто навещал их из-за личной дружбы с Даниэлой. Однажды Брокман, Дарио и будущий муж Даниэлы, благотворитель из движения эффективного альтруизма Холден Карновски, сели вместе и спорили о правильном пути развития ИИ: Брокман считал, что всем американцам следует сообщать о том, что происходит на переднем крае ИИ, тогда как Дарио и Карновски полагали, что чувствительная информация должна сначала доводиться до правительства, а не до широкой публики. Это расхождение впоследствии стало переломным моментом в философских подходах двух компаний.
Поражённый составом сотрудников OpenAI, Дарио присоединился к компании в середине 2016 года и вместе с Брокманом работал допоздна, обучая ИИ-агентов играть в видеоигры. Однако за четыре года совместной работы противоречия, связанные с властью и чувством принадлежности, только усиливались. В 2017 году основной инвестор OpenAI Маск потребовал составить список вклада каждого сотрудника и уволить на основе этих данных 10–20% команды из около 60 человек; Дарио воспринял это как жестокость, а один из уволенных впоследствии стал сооснователем Anthropic.
В том же году этический консультант, нанятый Дарио, предложил сделать OpenAI координирующим органом между компаниями ИИ и правительством, и Брокман интерпретировал это как идею «продажи AGI постоянным членам Совета Безопасности ООН», что Дарио сочтил почти предательством и рассматривал возможность ухода в отставку.
После ухода Маска в 2018 году Алтман взял на себя руководство. Он пришел к соглашению с Дарио: сотрудники не доверяли лидерству Брокмана и главного научного сотрудника Ильи Суцкевера. Дарио остался при условии, что оба больше не будут руководить, но вскоре обнаружил, что Алтман одновременно пообещал обоим, что они имеют право уволить себя, и эти обещания противоречили друг другу.
После запуска разработки серии GPT между топ-менеджерами разгорелся самый ожесточённый конфликт вокруг того, кто может участвовать в проекте языковой модели. Тогдашний директор по исследованиям Дарио запретил Брокману участвовать в проекте; Даниела, совместно с Эликом Рэдфордом возглавлявшая проект, угрожала уйти с поста руководителя, а личные желания Рэдфорда оказались вовлечёнными в агентскую войну между топ-менеджерами.
Квалификация Дарио возросла вместе с успехом GPT-2 и GPT-3, но он чувствовал, что Алтман преуменьшил его вклад. Когда Брокман говорил на подкасте о уставе OpenAI, Дарио разозлился, что его не пригласили, несмотря на его больший вклад в устав; он также был недоволен, узнав, что Брокман и Алтман собираются встретиться с бывшим президентом Обамой, исключив его.
Конфликт полностью обострился во время встречи в конференц-зале. Альтман пригласил брата и сестру Амодей в конференц-зал и обвинил их в том, что они подстрекали коллег представить негативные отзывы о себе в совет директоров. Оба отрицали это. Альтман сказал, что информация поступила от другого топ-менеджера, и Даниела сразу же вызвала этого топ-менеджера для очной ставки, и тот заявил, что ничего не знает.
Альтман сразу опроверг, что говорил эти слова, и между ними разгорелась острая ссора. В начале 2020 года Альтман потребовал, чтобы руководители писали друг другу рецензии; Брокман написал резкую обратную связь, обвиняя Даниэлу в злоупотреблении властью и использовании бюрократических процедур для исключения оппонентов, при этом Альтман заранее ознакомился с оценкой и прокомментировал её как «жёстко, но справедливо». Даниэла опровергла каждый пункт, и спор перерос в то, что Брокман一度 предложил отозвать свою оценку.
В конце 2020 года команда, возглавляемая Дарио, решила уйти, а Даниэла взяла на себя ведение переговоров с юристами о выходе. Альтман лично приехал к Дарио, чтобы уговорить его остаться; Дарио заявил, что согласится только на прямую подотчетность совету директоров и четко обозначил, что не может работать с Брокманом. Перед уходом он написал подробную записку, в которой разделил ИИ-компании на два типа — «рыночные» и «общественного интереса» — и отметил, что идеальное соотношение составляет 75% общественного интереса и 25% рыночных. Через несколько недель Дарио, Даниэла и около двенадцати сотрудников покинули OpenAI и основали Anthropic.
Сегодня, спустя пять лет, обе компании оцениваются более чем в 300 миллиардов долларов США и соревнуются за первенство в выходе на IPO. На групповой фотографии на закрытии AI-саммита в Нью-Дели в феврале этого года премьер-министр Индии Моди и другие технологические лидеры подняли руки вверх, а Амодеи и Альтман выбрали не участвовать, лишь неловко коснувшись локтями.