原文标题：《Десятилітній конфлікт, що формує майбутнє ШІ
Автор оригіналу: Keach Hagey
Журналіст The Wall Street Journal Кіч Хейджі опублікував детальне розслідування, яке на основі численних інтерв’ю з поточними та колишніми співробітниками та тими, хто був близький до засновників Anthropic та OpenAI, вперше систематично розкриває десятирічну особисту суперечку між засновниками цих компаній. Глобальну архітектуру ШІ формують не лише розбіжності у технічних напрямках, а й незаживлена особиста травма.
Даріо Амодеї протягом останніх місяців у внутрішніх повідомленнях висловлювався набагато різкіше, ніж на публіці. Він порівняв правовий конфлікт Сема Альтмана з Ілоном Маском із «суперечкою між Гітлером і Сталіним», назвав внесок 25 мільйонів доларів від президента OpenAI Грега Брокмана в протрumpівський супер-ПАК «злим» (evil) і порівняв OpenAI та інших конкурентів із тютюновою компанією, яка продовжує продавати продукт, який вона добре знає, що шкодить.
Після посилення суперечки в Пентагоні він також у Slack назвав OpenAI «брехливим» (mendacious) і написав: «Ці факти свідчать про модель поведінки, яку я неодноразово спостерігав у Самі Альтмані».
Anthropic всередині називає цю брендову стратегію створення «здоровой альтернативи» для конкурентів; одна з реклам, яка не називала відкрито OpenAI за вбудовування реклами у чат-бота під час Супербоулу цього року, стала її публічним проявом.
Історія почалася в гостиній спільного житла на вулиці Делано в Сан-Франциско 2016 року. Тут жив Даріо зі своєю сестрою Даніелою Амодеї, а Брокман, співзасновник OpenAI, часто завітав до них через особисті стосунки з Даніелою. Одного дня Брокман, Даріо та заручник Даніели, благодійник ефективного альтруїзму Голден Карновскі сиділи разом і суперечили щодо правильного шляху розвитку ШІ: Брокман вважав, що слід повідомити всіх американців про те, що відбувається на передовій ШІ, тоді як Даріо та Карновскі вважали, що чутливу інформацію слід спочатку повідомляти уряду, а не робити її загальнодоступною. Ця розбіжність згодом стала переломною точкою у філософському курсі двох компаній.
Після того як Даріо був вражений складом талантів OpenAI, він приєднався до компанії в середині 2016 року і разом з Брокманом працював до ранку, навчаючи AI-агентів грати у відеоігри. Але після чотирьох років спільної роботи суперечки щодо влади та відчуття належності посилювалися. У 2017 році Маск, основний інвестор OpenAI, вимагав скласти список внеску кожного співробітника та звільнити на основі цього списку; 10–20% із команди з приблизно 60 осіб були поступово звільнені. Даріо вважав це жорстоким, і один із звільнених пізніше став співзасновником Anthropic.
Того ж року етичний консультант, найнятий Даріо, запропонував, щоб OpenAI виступала в ролі координаційної структури між компаніями з ШІ та урядами, і Брокман вивів з цього ідею «продажу AGI постійним членам Ради Безпеки ООН», що Даріо вважав майже зрадою і на деякий час розглядав відставку.
Після виходу Маска у 2018 році Altman прийняв лідерство. Він досяг згоди з Dario: працівники не вірили у лідерство Brockman та головного наукового співробітника Ilya Sutskever. Dario залишився за умови, що вони більше не керуватимуть, але швидко виявив, що Altman одночасно обіцяв обоєм, що вони мають право звільнити себе — ці обіцянки суперечили одна одній.
Після запуску розробки серії GPT між керівництвом вибухнув найгостріший конфлікт щодо того, хто може брати участь у проекті мовних моделей. Тодішній директор з досліджень Даріо не дозволив Брокману втручатися, а Даніела, яка разом з Елеком Радфордом керувала проектом, загрожувала відставкою, а особисті бажання Радфорда потрапили в посередницьку війну між керівниками.
Кваліфікація Даріо зросла разом із успіхом GPT-2 і GPT-3, але він вважав, що Алтман зменшив свій внесок. Коли Брокман з’явився на подкасті, обговорюючи хартію OpenAI, Даріо розлютився, що його не запросили, хоча він зробив більший внесок у хартію; він також був незадоволений, дізнавшись, що Брокман і Алтман збираються зустрітися з колишнім президентом Обамою, а його виключили.
Конфлікт повністю загострився під час зустрічі в конференц-залі. Алтман викликав братів Амодеї до кімнати і звинувачував їх у підбурюванні колег до подання негативних відгуків про нього до ради директорів. Вони заперечили. Алтман сказав, що інформація походить від іншого топ-менеджера, і Даниела відразу ж викликала цього топ-менеджера для зустрічі, а той сказав, що повністю не в курсі.
Альтман відразу заперечив, що казав це, і між ними виникла запекла суперечка. На початку 2020 року Альтман вимагав, щоб топ-менеджери обмінювалися взаємними оцінками; Брокман написав жорсткий відгук, у якому звинувачував Даниелу у зловживанні владою та використанні бюрократичних процедур для виключення опонентів. Альтман попередньо переглянув оцінку і прокоментував: «жорстко, але справедливо». Даниела спростувала кожен пункт, і суперечка переросла в те, що Брокман тимчасово запропонував відкликати свій відгук.
Наприкінці 2020 року команда, що об’єдналася навколо Даріо, вирішила залишити компанію, а Даниела керувала переговорами з юристами щодо їхнього виходу. Альтман особисто відвідав дім Даріо, щоб спробувати зупинити його; Даріо висунув умову, що готовий залишитися лише за умови звітності безпосередньо перед радою директорів, і чітко заявив, що не може працювати з Брокманом. Перед виходом він написав довгу меморандум, у якому розділив компанії з штучним інтелектом на два типи — «ринкові» та «на користь суспільства» — і вважав ідеальним співвідношенням 75% на користь суспільства та 25% ринкових. Через кілька тижнів Даріо, Даниела та близько дванадцяти співробітників залишили OpenAI та заснували Anthropic.
Сьогодні, через п’ять років, обидві компанії мають оцінку понад 300 мільярдів доларів США і змагаються за першість у виході на IPO. Під час групового фото на закритті AI-вершини в Нью-Делі у лютому цього року прем’єр-міністр Індії Моді та інші лідери технологічної галузі підняли руки вгору, тоді як Амодеї та Альтман вирішили не приєднуватися, обмежившись незручним дотиком ліктів.