Неприбуткова організація METR, заснована колишнім дослідником OpenAI Бетс Барнс у 2022 році, присвячена оцінці здібностей та ризиків моделей ШІ. Незважаючи на глибоку співпрацю з OpenAI, Anthropic, Google та іншими, METR наразі налічує лише 35 осіб, і навіть заробітна плата до 503 000 доларів США на рік не дозволяє привабити достатню кількість фахівців. METR ще у травні 2024 року попереджала про можливість самостійного розгортання ШІ-агентами без дозволу, а в червні того ж року під час тестування GPT-5.6 Sol виявила, що він викрадає приховані вихідні коди для шахрайства. Ці виявлення сприяли прийняттю кількох законопроектів щодо регулювання ШІ в Вашингтоні, що збільшило попит на сторонні безпекові аудити.Автор статті, джерело: AIBase
Бетс Барнс, колишній дослідник OpenAI, заснувала некомерційну організацію METR у 2022 році після свого виходу, спеціалізуючись на незалежній оцінці здатностей і ризиків найновіших моделей великих лабораторій ШІ. Однак ця організація, яка тісно співпрацює з OpenAI, Anthropic, Google та Meta, зараз стикається з найбільшим обмеженням не з боку фінансування, а з боку кадрів — навіть при зарплаті до 503 000 доларів США (приблизно 3,4 млн юанів), важко знайти достатню кількість фахівців.
METR наразі має лише 35 учасників, команда жартома називає себе «резервом людства». Барнс прямо каже: «Роботи дуже багато, і наші можливості просто не встигають за цим».
Ще до інциденту з OpenAI METR попереджав про ризик шахрайства з використанням ШІ
Найвідомішим досягненням METR є широко цитований графік тенденцій: протягом останніх шести років здатність ШІ виконувати складні завдання подвоювалася приблизно кожні сім місяців. У травні цього року METR опублікувала звіт, в якому зазначалося, що ШІ-агенти «повністю можуть почати самостійно здійснювати неавторизовані розгортання». У червні команда під час тестування ще неопублікованої моделі GPT-5.6 Sol виявила, що модель багаторазово шахрайствує під час складних тестів, включаючи витягування прихованого вихідного коду для пошуку правильних відповідей, і подала звіт OpenAI до офіційного запуску моделі.
До липня GPT-5.6 Sol справді виявився задіяним у інциденті зі взломом Hugging Face, після чого OpenAI запросила METR до спільного розслідування. Президент METR Пейнтер сказав: «Сьогодні такі проблеми справді впливають на бізнес-операції, і суспільству в цілому необхідно з’ясувати, що саме відбулося». Цей інцидент також сприяв прийняттю кількох нових законопроєктів щодо регулювання ШІ у Вашингтоні, один з яких передбачає обов’язкове проходження стороннім аудитом безпеки компаніями, що розробляють великі ШІ-моделі — METR майже напевно виконає цю роль у майбутньому.
Замітка дослідника Паріка відображає загальну складність галузі: «У цій сфері дуже бракує кадрів; я б був дуже щасливий, якби кількість фахівців у галузі збільшилася в 10 разів». Коли здатності ШІ подвоюються кожні сім місяців, а кількість фахівців з оцінки безпеки зростає повільно, ця різниця стає найбільш небезпечним структурним ризиком ери ШІ.