TechCrunch опубликовала статью, в которой утверждается, что генеративный ИИ выводит проблемы кибербезопасности компаний на первый план. Главный операционный директор Google Cloud Фрэнсис де Суза на одном из мероприятий заявил, что при внедрении ИИ компании не могут откладывать вопросы безопасности на потом или передавать их на усмотрение сотрудников. По его словам, стратегия ИИ должна развиваться одновременно со стратегией данных и стратегией безопасности.
Статья отмечает, что сама эта система оценки не является новой, но с быстрым внедрением инструментов ИИ в корпоративные процессы риски становятся более очевидными. Де Соуза особенно выделяет проблему «теневого ИИ» — когда сотрудники обходят корпоративное управление и напрямую используют ИИ-инструменты, предназначенные для личного использования. Это затрудняет для компаний единый аудит, контроль доступа и управление данными.
Поверхность атаки уже не ограничивается традиционными сетями
де Соуза считает, что старые модели защиты уже не успевают за современным темпом. В статье приводятся его слова, согласно которым средний интервал между первым взломом системы и переходом атаки на следующий этап сократился с 8 часов до 22 секунд. В то же время объектами защиты для предприятий больше не являются только сеть и конечные устройства.
Текущие риски также включают новые этапы, такие как модели, конвейеры обучающих данных, агенты и промпты. Особенно агенты ИИ, работающие внутри компании, могут автоматически обнаружить хранилища данных, не находившиеся под вниманием много лет, и снова раскрыть скрытую конфиденциальную информацию.
Google выступает за платформенную защиту
Де Соуза предлагает, чтобы защита также перешла на подход «машину-к-машине». Он утверждает, что предприятиям необходимо применять платформенный подход, обеспечивая согласованную стратегию безопасности Across различных облачных сред и моделей, а не устранять уязвимости по мере запуска бизнеса.
Он также отметил, что это уже не только задача команды безопасности, но и вопрос, в котором должны непосредственно участвовать совет директоров и руководство. Причина в том, что ИИ меняет способы доступа к внутренним системам компании, и традиционные процессы безопасности, зависящие от ручного реагирования, все труднее успевают справляться вовремя.
Однако в статье также отмечается, что отрасль пока не имеет достаточного количества специалистов, способных контролировать такие системы. Лия Киснера, главный информационный офицер LinkedIn, на этой неделе сказала «Нью-Йорк таймс», что скорость роста уязвимостей, связанных с ИИ, все еще опережает возможности команд по безопасности, и отрасли, возможно, потребуется еще несколько лет, чтобы сформировать более устойчивое понимание безопасности ИИ.
Событие Gemini выявило расхождение в исполнении платформой
Статья отмечает, что хотя рекомендации по безопасности, выдвигаемые Google Cloud, разумны, сама платформа имеет явные пробелы в реализации. The Register недавно последовательно сообщал, что несколько разработчиков Google Cloud получили счета на десятки тысяч долларов из-за неавторизованных вызовов API Gemini, причем некоторые из них ранее не включали соответствующие службы самостоятельно.
В отчете говорится, что большинство этих случаев связано с публично раскрытыми API-ключами. Эти ключи изначально использовались для Google Maps и размещались в открытых местах в соответствии с прежними рекомендациями Google. Позже Google расширил диапазон доступа этих ключей, но разработчики не были должным образом проинформированы об этом изменении, что позволило злоумышленникам получить доступ к сервисам Gemini и сгенерировать высокие расходы.
- Prentus заявил, что за 30 минут было сгенерировано 10138 долларов
- Другой разработчик получил счет на сумму около 17 000 австралийских долларов
- После автоматического повышения лимит может достигать до 100 000 долларов США
После освещения в СМИ Google вернул деньги соответствующим разработчикам, но не планирует изменять политику автоматического повышения уровня оплаты. Компания объяснила это тем, что платформа уделяет большее внимание предотвращению перерывов в обслуживании, чем строгому соблюдению установленных пользователем лимитов бюджета.
После удаления ключа仍有可用窗口
Статья также упоминает исследование компании по кибербезопасности Aikido, согласно которому даже если разработчики немедленно удаляют ключ после обнаружения его утечки, злоумышленники могут продолжать использовать этот ключ в течение до 23 минут, поскольку операции отзыва Google распространяются по инфраструктуре постепенно, а не мгновенно.
Исследователь Aikido Джозеф Леон заявил, что в этот период стабильность прохождения запросов через аутентификацию нестабильна, но в некоторые моменты成功率 все еще может превышать 90%. Злоумышленники могут использовать это окно, чтобы продолжать экспортировать файлы или считывать кэшированные данные диалогов Gemini.
Леон также отметил, что некоторые новые форматы учетных данных Google не имеют аналогичной проблемы. Например, учетные данные API служебных аккаунтов можно отозвать примерно за 5 секунд, а более новые ключи с префиксом AQ для Gemini становятся недействительными примерно за минуту. Это означает, что 23-минутный интервал для старых ключей не является технически неразрешимым, а скорее является результатом приоритетов платформы.
Дополнительная информация: эта статья представляет собой мнение зарубежных СМИ; её суть не в отрицании рекомендаций Google по безопасности, а в указании на разрыв между тем, как платформа продвигает превентивные меры для предприятий, и её собственной скоростью реакции в вопросах продуктов, ценообразования и управления ключами.