TechCrunch опублікувала статтю, в якій зазначається, що генеративний ІШ виводить проблеми безпеки підприємств на перший план. Головний оперативний директор Google Cloud Френсіс де Суза на одній з подій сказав, що підприємства, що впроваджують ІШ, не можуть відкладати безпеку на потім чи покладати її на окремих співробітників. За його словами, стратегія ІШ повинна розроблятися одночасно зі стратегією даних та стратегією безпеки.
Стаття зазначає, що сама ця система оцінки не є новою, але після швидкого впровадження інструментів ШІ в корпоративні процеси ризики виявляються швидше. Де Соза особливо згадує проблему «тіньового ШІ» — коли співробітники обходять корпоративне управління і використовують особисті інструменти ШІ. Це ускладнює для компаній єдиний аудит, контроль доступу та управління даними.
Поверхня атаки вже не обмежується традиційними мережами
де Соуза вважає, що старі моделі захисту вже не відповідають сучасному темпу. У статті наводиться його слово, що середній інтервал між першим проникненням у систему та переходом атаки на наступний етап скоротився з 8 годин до 22 секунд. Разом із тим, об’єктами захисту для бізнесу вже не є лише мережі та термінали.
Зараз до ризиків також відносяться нові етапи, такі як моделі, конвеєри навчальних даних, агенти та підказки. Зокрема, AI-агенти, що працюють усередині компанії, можуть автоматично виявляти сховища даних, які не використовувалися роками, і знову відкривати приховану конфіденційну інформацію.
Google закликає до платформної захистної стратегії
Де Соуза запропонував зробити оборону також орієнтованою на «машину-до-машини». Він зазначив, що компаніям потрібно застосовувати платформений підхід, забезпечуючи послідовну політику безпеки між різними хмарними середовищами та моделями, а не виправляти пробіли після запуску бізнесу.
Він також зазначив, що це вже не лише питання для команди безпеки, а та, у якій повинні безпосередньо брати участь рада директорів та менеджмент. Причина полягає в тому, що ШІ змінює спосіб доступу до внутрішніх систем підприємства, і традиційні процеси безпеки, що залежать від ручного відгуку, все складніше встигають реагувати вчасно.
Проте у статті також зазначається, що наразі в галузі все ще не вистачає достатньо кваліфікованих фахівців, здатних контролювати такі системи. Ліа Кіснер, головний інформаційний офіцер безпеки LinkedIn, на тиждень сказала The New York Times, що швидкість зростання вразливостей, пов’язаних з ШІ, все ще перевищує здатність команд безпеки їх виправляти, і галузі може знадобитися ще кілька років, щоб сформувати більш стабільне розуміння безпеки ШІ.
Подія Gemini виявила розбіжності в виконанні платформи
Стаття вважає, що безпекові рекомендації, запропоновані Google Cloud, хоча й є обґрунтованими, але сама платформа має очевидні прогалини у виконанні. The Register нещодавно поспіль повідомляв, що кілька розробників Google Cloud отримали рахунки на десятки тисяч доларів через неавторизовані виклики API Gemini, причому деякі з них раніше не увімкнули ці сервіси за власною ініціативою.
У матеріалі зазначається, що ці випадки більшістю пов’язані з публічно відкритими API-ключами. Ці ключі спочатку використовувалися для Google Maps і розміщувалися у відкритих місцях згідно з ранішніми рекомендаціями Google. Пізніше Google розширив діапазон виклику цих ключів, але розробники не були повідомлені про цю зміну, що дозволило злоумисникам отримати доступ до сервісів Gemini і спричинити високі витрати.
- Prentus стверджує, що за 30 хвилин було зіграно на 10 138 доларів США
- Інший розробник отримав рахунок на майже 17 000 австралійських доларів
- Після автоматичного підвищення реальний ліміт може досягати 100 000 доларів США
Після освітлення в ЗМІ Google вже повернув кошти відповідним розробникам, але не планує змінювати політику автоматичного підвищення рівня оплати. Компанія пояснила це тим, що платформа приділяє більше уваги запобіганню перервам у наданні послуг, ніж строгому дотриманню встановлених користувачем лімітів бюджету.
Після видалення ключа залишається доступний вікно
У статті також згадується дослідження компанії з кібербезпеки Aikido. Згідно з ним, навіть якщо розробники видаляють ключ одразу після виявлення його витоку, зловмисники все ще можуть використовувати цей ключ протягом до 23 хвилин, оскільки операції відкликання Google поширюються по інфраструктурі поступово, а не миттєво.
Дослідник Aikido Джозеф Леон зазначив, що протягом цього періоду стабільність проходження запитів через аутентифікацію була нестабільною, але в деякі моменти частка успішних запитів все ще могла перевищувати 90%. Зловмисники можуть використовувати це вікно, щоб продовжувати експорт файлів або читати кешовані дані діалогів Gemini.
Леон також зазначив, що деякі нові формати облікових даних Google не мають такої ж проблеми. Наприклад, облікові дані API облікового запису служби можна скасувати приблизно за 5 секунд, а новіші ключі з префіксом AQ для Gemini стають недійсними приблизно за хвилину. Це означає, що 23-хвилинний вікно для старих ключів, ймовірно, не є технічно нерозв’язною проблемою, а скоріше результатом пріоритетів платформи.
Додаткова інформація: Ця стаття є поглядом іноземних ЗМІ; її суть не в запереченні безпечних рекомендацій Google, а в тому, що платформа, заохочуючи компанії до попереднього захисту, все ще має розрив у швидкості реагування щодо своїх продуктів, оплати та управління ключами.