OpenAI и Anthropic объединяются против Пентагона по вопросам этики ИИ

Автор оригинала: Курри, Shenchao TechFlow

Несколько дней назад в интернете широко распространилась фотография.

Индия провела саммит по ИИ, премьер-министр Моди стоял на сцене, по обе стороны от него — ряд крупных деятелей из Кремниевой долины. Во время фотофиксации Моди поднял руку соседа над головой, и остальные тоже взялись за руки — атмосфера была очень дружественной.

Но только двое не держались за руки.

Генеральный директор OpenAI и генеральный директор Anthropic, владельцы компаний, стоящих за ChatGPT и Claude, стоят рядом, каждый подняв кулак.

Не держась за руки, не глядя друг другу в глаза, словно двое неприятелей, которых учитель посадил за одну парту.

За последние несколько лет эти две компании активно конкурировали: Claude была создана командой, ушедшей из OpenAI, и обе стороны соревнуются за пользователей, корпоративных клиентов и финансирование. Во время суперкубка в этом году Anthropic даже потратила деньги на рекламу, чтобы посмеяться над тем, что ChatGPT выходит на рекламу.

Так что не держаться за руки — нормально.

Однако сегодня они объединились. Из-за Пентагона.

Так дело обстоит.

Anthropic, компания, стоящая за Claude, заключила в прошлом году с Министерством обороны США контракт на сумму до 200 миллионов долларов США. Claude стал первой ИИ-моделью, развернутой в секретной сети Вооруженных сил США для помощи в анализе разведданных и планировании задач.

Но Anthropic нарисовала две красные линии в контракте:

Claude не может использоваться для масштабного наблюдения за гражданами США или для автономного оружия без участия человека. (См. также: Семьдесят два часа кризиса личности Anthropic)

Только Пентагон не принимает.

Их требование — четыре слова: без ограничений. Купив инструмент, можно использовать его свободно; на каком основании технологическая компания говорит американским военным, что можно, а что нельзя?

Во вторник прошлой недели министр обороны Хегсетт лично вручил генеральному директору Anthropic ультиматум: согласитесь до 17:01 в пятницу, иначе последствия будут.

Anthropic не согласился.

Их генеральный директор опубликовал официальное заявление, в котором говорится: мы прекрасно осознаем важность ИИ для обороны США, но в отдельных случаях ИИ может наносить ущерб, а не защищать демократические ценности. Мы не можем согласиться с этим требованием совестью.

Затем представитель Пентагона, заместитель министра обороны Эмиль Майкл в социальных сетях назвал его мошенником, сказав, что у него богоподобное мировоззрение и что он шутит с национальной безопасностью.

Затем произошло неожиданное событие.

Более 400 сотрудников OpenAI и Google подписали открытое письмо под названием «Мы не будем разделены».

В письме говорится, что Пентагон по очереди ведет переговоры с ИИ-компаниями, пытаясь заставить других согласиться на условия, которые Anthropic отказалась принять, разделяя каждую компанию с помощью страха.

Генеральный директор OpenAI также отправил внутреннее письмо всем сотрудникам, в котором заявил, что у OpenAI те же самые красные линии, что и у Anthropic:

Без массового наблюдения, без автономных оружейных систем.

Всего несколько дней назад две компании не хотели сотрудничать, но внезапно оказались на одной стороне с Пентагоном.

Однако такое единство, возможно, продлится всего несколько часов.

В пятницу в 17:01 истек срок ультиматума Пентагона. Anthropic не подписала.

Американская технологическая компания с оценкой в 380 миллиардов долларов США, рискуя аннулированием контракта на 200 миллионов долларов, отказалась от Министерства обороны США. Раньше подобное могло закончиться лишь расторжением контракта и сменой поставщика. Но на этот раз реакция Вашингтона была далеко не коммерческого уровня.

Трамп опубликовал пост на Truth Social примерно через час, назвав Anthropic «левыми сумасшедшими» и заявив, что они пытаются подняться над Конституцией и шутят над жизнями американских солдат.

Он потребовал, чтобы все федеральные агентства немедленно прекратили использование технологий Anthropic.

Затем министр обороны США Хегсетх объявил Anthropic «риском для безопасности цепочки поставок». Эта метка обычно применяется к таким компаниям, как Huawei. Это означает, что все подрядчики, работающие с вооруженными силами США, больше не могут использовать продукты Anthropic.

Anthropic говорит, что будет судиться.

А в ту же самую ночь OpenAI, которая ранее придерживалась той же позиции, подписала соглашение с Пентагоном.

Что получила OpenAI?

Место, освободившееся после того, как Клод был исключен: поставщик ИИ для секретной военной сети США. Однако OpenAI предъявил Пентагону три условия: не использовать для масштабного наблюдения, не создавать автономное оружие, а при принятии решений высокого риска обязательно привлекать человека.

Пентагон сказал: хорошо.

Вы не ослышались. Условия, которые Anthropic отвергал несколько недель, были согласованы другой компанией всего за несколько дней?

Of course, the two solutions are not exactly the same.

Anthropic добавил еще один уровень: они считают, что современное законодательство не успевает за возможностями ИИ. Например, ИИ может законно покупать, законно агрегировать ваши данные о местоположении, историю просмотров и информацию из социальных сетей, в результате получая эффект, эквивалентный слежке, но при этом каждый отдельный шаг остается законным.

Anthropic говорит, что просто написать «не мониторим» недостаточно — этот пробел нужно закрыть. OpenAI не придерживалась этого подхода и приняла точку зрения Пентагона, что действующее законодательство достаточно.

Но если вы считаете, что это просто разногласие по условиям, вы слишком наивны. Эти переговоры с самого начала были не только о условиях.

Белый дом, AI-шериф Дэвид Сакс, давно публично критиковал Anthropic за создание «woke AI» (приоритет идеологии и политической корректности); высокопоставленный чиновник Пентагона сказал СМИ, что проблема Дарио — это идеологическая мотивация: «Мы знаем, с кем имеем дело».

xAI Элона Маска, являющийся прямым конкурентом Anthropic, на этой неделе неоднократно атаковал Anthropic в X, утверждая, что эта компания «ненавидит западную цивилизацию».

Генеральный директор Anthropic не посетил инаугурацию Трампа в прошлом году. Генеральный директор OpenAI посетил.

Давайте разберемся, что произошло.

Те же принципы, те же красные линии: Anthropic была помечена как угроза национальной безопасности США того же уровня, что и Huawei, из-за того, что добавила дополнительный уровень защиты, заняла неверную позицию и проявила неправильное поведение.

OpenAI пропустил один уровень — наладили отношения и получили контракт. Вы называете это победой принципов или ценой принципов?

Контракты Пентагона уже не впервые подвергаются бойкоту.

В 2018 году более 4000 сотрудников Google подписали петицию, а десятки человек ушли в отставку, протестуя против участия компании в проекте Pentagon под названием Project Maven. Этот проект использовал ИИ для анализа видео, снятого дронами, чтобы помочь военным быстрее идентифицировать цели.

Google в конце концов ушел. Не продлил контракт и ушел. Сотрудники выиграли.

Прошло 8 лет, и снова возникли те же споры. Но на этот раз правила полностью изменились. Американская компания сказала мне, что я могу вести дела с военными, но есть две вещи, которые нельзя делать. Ответом американского правительства стало исключение из всей федеральной системы.

И метка «риски безопасности цепочки поставок» имеет гораздо более серьезные последствия, чем потеря контракта на 200 миллионов долларов.

Доходы Anthropic в этом году составляют около 14 миллиардов долларов США, и контракт на 200 миллионов — это даже не капля. Но суть этого ярлыка в том, что любая компания, имеющая дела с армией США, не может использовать Claude.

Этим компаниям не нужно соглашаться с позицией Пентагона; им нужно просто провести оценку рисков: продолжать использовать Claude — и рисковать потерей государственных контрактов; перейти на другую модель — и ничего не произойдет.

Выбор прост. Это и есть настоящий сигнал по этому поводу.

Важно не то, выдержит ли Anthropic, а то, осмелится ли следующая компания это сделать. Она посмотрит на этот результат, оценит стоимость соблюдения принципов и примет очень рациональное решение.

Повторно взглянув на ту фотографию Индии, все держались за руки и поднимали их над головой, только они двое сжимали кулаки.

Возможно, это и есть норма.

Принципы ИИ-компаний могут быть одинаковыми, но руки не всегда удается взяться.