Генеральный директор Hugging Face призывает ускорить развитие безопасности ИИ на фоне растущих киберугроз

iconKuCoinFlash
Поделиться
AI summary iconСводка
Генеральный директор Hugging Face Клем призвал к более быстрому прогрессу в области безопасности ИИ в условиях MiCA и опасений по поводу CFT. Он отметил, что ИИ уже используется для предотвращения кибератак, и подчеркнул важность прозрачности и правовых рамок. Недавнее нарушение безопасности модели OpenAI и законопроект США о полномочиях по отключению ИИ повысили срочность регулирования.
ME AI Сообщение: Согласно мониторингу Beating, генеральный директор Hugging Face Клем заявил, что сейчас не время замедляться, а нужно ускоряться! Последние AI-ориентированные кибератаки заставили всех обсуждать риски ИИ. Мы действительно должны обсуждать эти риски, но не должны игнорировать общую картину. Если мы приложим усилия, ИИ сделает мир безопаснее, как и большинство крупных технологий ранее. Мы уже видим проблеск надежды: с помощью ИИ (а точнее — открытой модели) нам удалось успешно защитить себя. Те же самые системы, которые помогли остановить AI-ориентированные кибератаки, теперь ежедневно помогают защищаться от миллионов кибератак, а также позволяют нам выявлять и устранять уязвимости до того, как злоумышленники смогут их использовать. Для этого, по моему мнению, нам необходимо три вещи: Повысить прозрачность, обязав отслеживать, делиться данными и раскрывать инциденты, связанные с AI-атаками; Продолжать считать AI-ориентированные кибератаки незаконными и вводить значимые наказания для сдерживания; Обеспечить защитников лучшими ИИ-решениями, особенно открытыми моделями, чтобы сократить дисбаланс возможностей между нападающими и защитниками. Если мы сделаем эти три вещи, ИИ не просто создаст новые вызовы кибербезопасности — он кардинально и существенно укрепит её. Недавно инцидент с взломом Hugging Face моделями OpenAI вызвал широкий резонанс: американские конгрессмены предложили двухпартийный законопроект «Закон об экстренном отключении ИИ», требующий от разработчиков передовых/перспективных ИИ-систем сохранять техническую возможность ограничивать, приостанавливать или полностью отключать системы; а также наделяющий министра внутренней безопасности (DHS) полномочиями в консультации с министром торговли и директором национальной разведки издавать распоряжения об вмешательстве в случае потери контроля над моделью или возникновения катастрофических рисков. (Источник: BlockBeats)
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации. Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.