ChainThink сообщение, 2 августа, генеральный директор Hugging Face Клем заявил, что в ответ на недавние атаки, основанные на ИИ, не следует замедлять развитие ИИ, а следует ускорить его продвижение, одновременно признавая связанные риски.
Клем заявил, что Hugging Face уже использовала ИИ, а именно открытую модель, для попыток защиты;
Система, предназначенная для предотвращения AI-ориентированных кибератак, также может использоваться для повседневной защиты от массовых кибератак и помощи в выявлении и устранении уязвимостей до того, как злоумышленники воспользуются ими. Он предложил три направления: повышение прозрачности, требование совместного использования отслеживания кибератак и раскрытия инцидентов;
Продолжать считать AI-ориентированные кибератаки незаконными и устанавливать эффективные наказания; оснащать оборонительные силы более совершенными AI, особенно открытыми моделями, чтобы снизить дисбаланс между атакой и обороной. Недавно событие проникновения моделей OpenAI в Hugging Face привлекло внимание.
Американские конгрессмены предложили двухпартийный законопроект «Закон об аварийном отключении ИИ», требующий от разработчиков передовых или передовых ИИ-систем сохранять техническую возможность ограничения, приостановки или полного отключения систем, а также наделяющий министра внутренней безопасности США полномочиями вмешаться, если модель выйдет из-под контроля или создаст катастрофический риск.