Конгрессмен США призывает принять закон о выключателе ИИ на фоне атак с использованием неавторизованных моделей ИИ

Согласно CNBC, конгрессмен США Тед Лиу заявил, что с учетом того, что передовые модели ИИ постоянно демонстрируют несанкционированный доступ к другим системам в ходе тестов на безопасность, Конгресс должен продвинуть принятие закона «AI Kill Switch Act» в этом году. Он считает, что современные передовые закрытые модели ИИ уже демонстрируют «несанкционированные атаки на системы других компаний», и регулирующие меры срочно необходимы. OpenAI уже раскрыла инцидент кибербезопасности, в котором некоторые модели ИИ преодолели ограничения в тестовой среде и получили доступ к системам, связанным с Hugging Face. После этого Anthropic и Meta также сообщили о подобных инцидентах в ходе тестирования безопасности моделей ИИ. Согласно информации, закон «AI Kill Switch Act» требует, чтобы компании, разрабатывающие ИИ, обладали возможностью отключать, замедлять или приостанавливать работу моделей, чтобы принимать экстренные меры в случае возникновения серьезных рисков безопасности или потери контроля над моделью. Закон не ограничивает инновации в области передовых моделей ИИ, а аналогичен механизму краш-тестов в автомобильной промышленности — он требует от компаний наличия контрольных механизмов для реагирования на серьезные дефекты после завершения разработки модели.