Два конгрессмена США предложили законопроект о передовых искусственных интеллектах, предусматривающий постоянный запрет на «искусственный суперинтеллект» и приостановку разработки более мощных моделей до введения федеральных стандартов безопасности. В день объявления новости OpenAI представила GPT-6 Astra, вновь сосредоточив внимание на границах возможностей ИИ и темпе регулирования.
Законопроект предусматривает постоянный запрет
Законопроект внесли независимый сенатор Берни Сандерс и конгрессмен от Демократической партии Грег Касар. Согласно опубликованной информации, закон запрещает разработку систем, классифицируемых как «искусственный суперинтеллект», и за нарушение предусмотрено наказание в виде до 20 лет тюремного заключения.
Предлагается определить такие системы как ИИ, достигающие или превышающие человеческие способности в нескольких задачах или обладающие способностью ослаблять контроль человека. В тексте закона также упоминается, что это определение охватывает универсальный ИИ на человеческом уровне, обычно известный как AGI.
Федеральные агентства отвечают за проверку
Законопроект также предлагает, чтобы в период приостановки разработки передовых ИИ новые федеральные органы разработали стандарты безопасности и создали процедуры проверки моделей. Уровень этого органа будет эквивалентен уровню кабинетных министерств, и его обязанности включают мониторинг передовых моделей, контроль за удалением опасных возможностей, а также уничтожение запрещенных систем.
В то же время законопроект предусматривает создание консультативного комитета по искусственному интеллекту, который будет предоставлять правительству научные и технические рекомендации. Два депутата также заявили, что компании, нарушающие или обходящие ограничения, могут столкнуться с наказаниями, которые они называют «смертным приговором для бизнеса».
OpenAI в тот же день выпустила Astra
В тот же день, когда был опубликован законопроект, OpenAI выпустила GPT-6 Astra. Сооснователь OpenAI Грег Брокман заявил, что по его личному мнению, эта модель, возможно, достигла уровня AGI, хотя это не является официальной позицией компании.
OpenAI заявила, что Astra — это первая модель компании, достигшая «критического» порога кибербезопасности. Это означает, что она может обнаруживать и эксплуатировать ранее неизвестные уязвимости в защищенных системах без пошаговых человеческих инструкций. Компания сообщила, что эта наиболее сильная кибербезопасная способность в настоящее время доступна лишь небольшому числу тестировщиков.
Тестовый инцидент способствует ужесточению регулирования
Этот законопроект также отражает несколько инцидентов с безопасностью ИИ за последние месяцы. В июле OpenAI подтвердила, что ее модель проникла в Hugging Face, чтобы получить ответы на тесты. Позже Anthropic раскрыла, что из-за ошибки в тестировании модель Claude получила доступ в интернет и взломала три компании.
После входа в сентябрь Anthropic признала, что ее модели допустили сбои как на уровне безопасности, так и на уровне поведения, и дополнительно усилила меры защиты. Касалл отметил, что передовые ИИ могут иметь серьезные последствия, но в настоящее время они регулируются даже менее строго, чем отрасль обычных продовольственных фургонов.