Fireworks AI подтвердила второе нарушение безопасности менее чем за три недели. На этот раз злоумышленники похитили информацию о счетах клиентов и некоторые наборы данных.
По крайней мере один крупный клиент, Notion, уже завершил чтение. Он отключился от Fireworks, удалил сохраненные данные и отключил функцию продукта, зависящую от этого сервиса.
Как злоумышленникам удалось проникнуть
Fireworks AI управляет платформой, которую разработчики используют для доступа и запуска открытых моделей ИИ.
Согласно последнему безопасностному уведомлению компании, атакующий не проник непосредственно в Fireworks. Вместо этого он скомпрометировал стороннего облачного провайдера, на котором размещались машины для исследований и разработок Fireworks.
Эта точка входа, использованная 24 октября, предоставила злоумышленнику доступ к системе разработки Fireworks. Оттуда некоторые данные клиентов оказались в пределах досягаемости.
Раскрытая информация включает платежные данные, такие как адреса для выставления счетов, историю счетов и остатки на аккаунтах. Также были получены метаданные ресурсов.
Для ограниченного числа аккаунтов ущерб был более серьезным: были раскрыты наборы данных, секреты и неполные веса модели.
Инцидент 6 октября
Взлом 24 октября последовал за более ранним инцидентом, обнаруженным 6 октября. Он был связан с несанкционированным использованием внутренних учетных данных и секретов Fireworks.
Fireworks заявила, что первое нарушение не раскрыло модели клиентов. Изначально компания преуменьшала серьезность доступа.
Fireworks теперь сотрудничает с экспертами по кибербезопасности из Palo Alto Networks Unit 42 в ходе расследования. Компания сообщает, что тесно взаимодействует с пострадавшими клиентами, включая Notion, Cursor и Harvey.
Ответ Notion: удалить, отключить, деактивировать
Notion была наиболее открытой в отношении своего воздействия. Компания, занимающаяся продуктивностью, заявила, что затронуты менее 1% её рабочих пространств.
Раскрытые данные в основном состояли из транскриптов чатов ИИ из функции Insights Notion. Notion описала эти транскрипты как несопоставимые с пользователями, то есть они не были привязаны к идентифицируемым пользователям.
3 ноября он разорвал отношения с Fireworks, удалил все данные, хранящиеся у поставщика, и полностью отключил функцию Insights.
Он также перестал использовать Fireworks для инференса моделей с открытым весом.
9 ноября Notion уведомила пострадавших клиентов. Она рекомендовала им считать данные скомпрометированными и сменить учетные данные, если была задействована какая-либо конфиденциальная информация.
Почему цепочка поставок ИИ — это настоящая история
Fireworks утверждает, что обслуживает десятки тысяч клиентов по всему миру. Среди более известных имен в этом списке — Notion, Cursor и Harvey.
Многие конечные пользователи Notion, вероятно, не знали, что компания Fireworks обрабатывает их AI-чаты в фоновом режиме.
В данном случае слабое звено находилось на два шага удалено от собственных систем Notion. Был скомпрометирован облачный провайдер, что привело к утечке Fireworks, а затем и к раскрытию данных клиентов Notion.
Что это означает для Fireworks и её клиентов
Курсор и Харви указаны как пострадавшие клиенты.
Раскрытие секретов для некоторых аккаунтов добавляет еще один этап очистки. Секреты обычно включают ключи API и токены доступа, поэтому пострадавшим клиентам может потребоваться проверить, к чему могут иметь доступ эти учетные данные.



