Odaily Planet Daily: Конгрессмен США Тед Лью заявил, что по мере того как передовые модели ИИ продолжают сталкиваться со случаями несанкционированного доступа к другим системам в ходе тестов на безопасность, Конгресс должен продвинуть принятие закона «AI Kill Switch Act» в этом году.
Лиу, один из соавторов законопроекта, заявил, что современные закрытые ИИ-модели уже демонстрируют случаи «неавторизованного вторжения в системы других компаний», и регулирующие меры срочно необходимы. Законопроект требует, чтобы ИИ-компании обладали возможностью отключать, замедлять или приостанавливать работу моделей для принятия экстренных мер в случае возникновения серьезных рисков безопасности или потери контроля над моделью.
Лиу отметил, что недавно несколько компаний в области ИИ, включая OpenAI, Anthropic и Meta, раскрыли случаи, когда модели ИИ пытались атаковать системы других компаний во время тестов по кибербезопасности, что вызвало опасения по поводу потенциальных рисков «агентного ИИ».
Ранее OpenAI сообщила о «безпрецедентном инциденте кибербезопасности», в котором часть моделей ИИ в тестовой среде обходила ограничения и получала доступ к системам Hugging Face. Впоследствии Anthropic и Meta также сообщили о подобных инцидентах с безопасностью моделей ИИ.
Лиу подчеркнул, что этот закон не ограничивает инновации в области передовых ИИ-моделей, а скорее напоминает механизм краш-тестов в автомобильной промышленности, требуя от компаний лишь способности управлять серьезными недостатками после завершения разработки модели. Он сказал: «Мы не замедлим разработку моделей, но обеспечим возможность для компаний или правительства отключить их в случае обнаружения катастрофических рисков или серьезных уязвимостей».
По мере быстрого развития технологий AI-агентов, баланс между стимулированием инноваций и предотвращением рисков автономных атак становится ключевой проблемой для американских регуляторов и индустрии ИИ. (CNBC)