Anthropic предлагает глобальный механизм приостановки ИИ на фоне финансирования на $650 млн и подачи заявки на IPO

Согласно наблюдениям Beating, в отчете Anthropic «Когда ИИ строит себя» предлагается создать глобальный «проверяемый совместный механизм приостановки», аналогичный Договору о ликвидации ракет средней и меньшей дальности в области ядерного разоружения. В отчете однозначно отвергается односторонняя приостановка исследований, и подчеркивается, что передовые лаборатории могут одновременно остановиться только при условии глобальной проверяемости. Однако совместная остановка технически невозможна. Ядерное разоружение можно контролировать с помощью спутников, следящих за шахтами для ракет, но видеокарты компактны, легко маскируются и могут использоваться в распределенных вычислениях. Единственный способ проверить, не обучают ли другие компании модели втайне, — это внедрить проникающий мониторинг всех GPU-чипов, электросетей и центров обработки данных по всему миру. Всеобъемлющий мониторинг не только политически нереализуем, но и технически эквивалентен заявлению о диктатуре вычислительных мощностей. На фоне невозможности реализации технической проверки предложение о совместной приостановке напоминает «защитный щит». Незадолго до публикации отчета Anthropic завершила финансирование на 65 миллиардов долларов при оценке почти в триллион долларов и подала заявку на листинг. Устанавливая условием остановки невозможную глобальную проверку, Anthropic одновременно создает предпосылки для бесконечного обучения и перекладывает ответственность за невозможность остановиться на еще не созданной регуляторной системе.