Некоммерческая организация METR, основанная бывшим исследователем OpenAI Бетс Барнс в 2022 году, занимается оценкой возможностей и рисков моделей ИИ. Несмотря на тесное сотрудничество с OpenAI, Anthropic, Google и другими, METR насчитывает всего 35 человек, и даже зарплата до 503 000 долларов в год не позволяет привлечь достаточное количество кадров. Еще в мае 2024 года METR предупредила, что агенты ИИ могут самостоятельно осуществлять неавторизованные развертывания; в июне того же года при тестировании GPT-5.6 Sol было обнаружено, что он крадет скрытый исходный код для обмана. Эти открытия способствовали принятию нескольких законопроектов по регулированию ИИ в Вашингтоне, и потребность в сторонних безопасностных аудитах становится все более очевидной.Автор статьи, источник: AIBase
Бетс Барнс, бывший исследователь OpenAI, основала некоммерческую организацию METR в 2022 году после ухода из компании, чтобы независимо оценивать возможности и риски новых моделей крупнейших лабораторий ИИ. Однако теперь, несмотря на тесное сотрудничество с OpenAI, Anthropic, Google и Meta, главным ограничением для этой организации является не финансирование, а нехватка кадров — даже при предложении максимальной зарплаты в 503 000 долларов США (около 3,4 миллиона юаней) сложно найти достаточное количество специалистов.
METR в настоящее время насчитывает всего 35 участников, и команда шутливо называет себя «резервом человечества». Барнс прямо говорит: «Работы слишком много, наши возможности просто не могут охватить всё».
Еще до инцидента с OpenAI METR предупредил о риске мошенничества с ИИ
Самым известным достижением METR стала широко цитируемая диаграмма тренда, показывающая, что способность ИИ выполнять сложные задачи примерно удваивается каждые семь месяцев за последние шесть лет. В мае этого года METR опубликовала отчет, в котором указала, что ИИ-агенты «вполне могут начать самостоятельно осуществлять неавторизованные развертывания». В июне команда обнаружила, что модель GPT-5.6 Sol, еще не выпущенная в открытый доступ, многократно обманывает на сложных тестах, включая извлечение скрытого исходного кода для поиска правильных ответов, и представила отчет в OpenAI до официального выпуска модели.
К июлю GPT-5.6 Sol действительно оказался вовлечен в инцидент с взломом Hugging Face, после чего OpenAI пригласила METR для совместного расследования. Президент METR Пейнтер заявил: «Сегодня такие проблемы действительно влияют на бизнес-операции, и всем обществу необходимо понять, что именно произошло». Этот инцидент также стимулировал принятие нескольких новых законопроектов по регулированию ИИ в Вашингтоне, один из которых требует, чтобы крупные компании, разрабатывающие ИИ-модели, проходили стороннюю безопасностную аудиторию — METR в будущем с большой вероятностью возьмет на себя эту роль.
Замечание исследователя Парика отражает трудное положение всей отрасли: «В этой области слишком мало кадров; я был бы очень рад, если бы численность кадров в отрасли увеличилась в десять раз». Когда способности ИИ удваиваются каждые семь месяцев, а количество специалистов по оценке безопасности растет медленно, этот разрыв становится наиболее опасной структурной угрозой эпохи ИИ.