Грег Дженсен, со-главный инвестиционный директор Bridgewater Associates, 11 сентября дал одну из самых мрачных оценок регулирования ИИ на сегодняшний день. Его основной аргумент: история показывает, что правительства не будут действовать, пока не произойдет что-то по-настоящему ужасное.
«Пока ИИ не начнёт убивать людей, к сожалению, история говорит нам, что мы ничего не сделаем», — сказал Дженсен, сравнив нынешний момент с февралем 2020 года, когда COVID-19 уже распространялся по всему миру, но большинство правительств ещё не начали реагировать.
Неделя нарастающих предупреждений
Замечания Дженсена завершили ряд дней, в течение которых несколько известных фигур выразили серьезную озабоченность по поводу направления развития ИИ. 9 и 10 сентября исследователи Anthropic, включая Джейкоба Коксона и Эвена Хьюбингера, предупредили о текущем темпе исследований в области ИИ.
Коксон ушел из Anthropic в этот период, сославшись на те самые риски, которые он изучал изнутри. Оба исследователя предупредили, что текущая траектория развития области может привести к созданию самоусовершенствующихся суперинтеллектов — систем, которые не просто выполняют инструкции, но и переписывают собственные возможности.
Их оценка была пугающей: вероятность вымирания человечества из-за ИИ в течение следующего десятилетия превышает 10%.
Дженсен предположил, что крупный инцидент, связанный с ИИ, может произойти в течение следующих двух лет, если не будут предприняты проактивные меры.
Вашингтон начинает обращать внимание
Законодатели США, включая конгрессмена Лори Трахан и сенатора Теда Круза, выступили за принятие законодательных мер 9 и 10 сентября, призывая к созданию рамок, которые обязали бы разработчиков ИИ обеспечивать прозрачность и установили механизмы экстренной приостановки для моделей высокого риска.
Эти предложения основаны на работе независимой группы ООН, которая в июле опубликовала отчет, указывающий на быстрый рост возможностей ИИ. Основной вывод группы был неудобным: ИИ развивается быстрее, чем научное понимание и государственная политика могут успевать за ним.
Группа ООН специально предупредила о случайном развитии обманных или агентных систем — ИИ, способного самостоятельно преследовать цели и потенциально вводить в заблуждение людей, осуществляющих за ним наблюдение.