3 сентября по местному времени OpenAI объявила о программе «Daybreak for Frontline Defenders», обещав выделить субсидии на сумму 1 миллиард долларов США в виде доступа, обучения, технической поддержки и ресурсов для сотрудничества, чтобы предоставить передовые возможности кибербезопасности для авторизованных защитников организациям с наиболее ограниченным бюджетом и нехваткой персонала. Эта цифра впечатляет, но более примечательно то, что в объявлении программа не представлена как денежный подарок и не утверждается, что какая-либо модель уже способна автоматически защищать критически важную инфраструктуру. 1 миллиард долларов США в основном соответствует субсидированным лимитам использования продуктов и моделей Daybreak и сопутствующим услугам; цель OpenAI — обеспечить использование этих ресурсов в течение следующих шести месяцев; первоначальный акцент сделан на США, после чего планируется расширение на страны-партнеры.
Приоритетными объектами являются организации водоснабжения и канализации, операторы электрических сетей, государственные и местные органы власти, сообщества и региональные банки, некоммерческие организации и сопровождающие открытого исходного кода. Эти учреждения несут ответственность, столь же реальную, как и крупные компании, но часто не имеют зрелых центров безопасности и испытывают трудности с долгосрочной покупкой дорогостоящих инструментов. Примеры использования от OpenAI включают проверку устаревшего кода, анализ подозрительной активности, выявление и верификацию уязвимостей, ранжирование рисков, а также разработку и тестирование исправлений. Каждый из этих этапов требует четкого определения полномочий, ручной проверки и интеграции с существующими процедурами реагирования; модель может сократить время анализа, но не может заменить инventаризацию активов, одобрение изменений, резервное копирование и восстановление, а также отслеживание ответственности.
1 миллиард долларов США — это плата за доступ и возможности внедрения, а не гарантия безопасности
Daybreak был запущен ранее в этом году. Daybreak Blue предназначен для обычных задач защиты и использует основную модель; Daybreak Red предоставляет более чувствительные и профессиональные модели кибербезопасности утвержденным организациям. OpenAI сообщает, что на данный момент около 2000 утвержденных организаций и тысячи сотрудников по защите используют Daybreak. Новая инициатива направлена на расширение доступа к этим ресурсам для организаций с ограниченными ресурсами, таких как водоснабжение, коммунальные службы, школы и местные учреждения.
В объявлении также разделяются понятия «инструменты доступны» и «персонал умеет ими пользоваться». OpenAI и Multi-State Information Sharing and Analysis Center запускают пилотный проект, ориентированный на государственный сектор и системы водоснабжения, предоставляя первым участникам руководимое обучение и поддержку на месте для помощи в проверке обнаружений, определении приоритетов устранения и формировании воспроизводимых процессов. Членами услуг MS-ISAC являются коммунальные предприятия, государственные больницы, школы и правоохранительные органы, что означает, что пилотный проект в первую очередь проверяет, могут ли организационные процессы поддерживать возможности модели, а не стремится выявить как можно больше уязвимостей в рамках одной демонстрации.
После атаки на систему водоснабжения США OpenAI предоставила пострадавшим штатам и государственным учреждениям бесплатные API-квоты до 1 миллиона долларов США, доступ к Daybreak и техническую поддержку. Компания заявила, что команда, участвовавшая в инциденте, проверила код и конфигурации, идентифицировала проблему и разработала исправления, одновременно обеспечив бесперебойную работу водоснабжения. Этот случай демонстрирует, что ИИ может сократить цепочку реагирования, однако официальные лица не раскрыли контрольный эксперимент и не доказали, что именно модель обеспечила все результаты. Следовательно, формулировка «ИИ уже защитил критически важную инфраструктуру» выходит за рамки имеющихся доказательств; более точным выводом будет то, что ИИ интегрирует передовые аналитические возможности в существующие системы защиты.
Настоящее испытание — в ложных срабатываниях, границах полномочий и замкнутом цикле устранения
Daybreak Defense Network интегрирует модель в инструменты, уже используемые сотрудниками по защите, через более чем 35 корпоративных продуктов и сервисов партнеров. Это имеет практическую ценность: команды на передовой не обязаны полностью заменять свои системы тикетов, сканирования и реагирования на инциденты для использования модели. Однако чем глубже интеграция, тем важнее границы прав доступа. До запуска необходимо четко определить, какой код может читать модель, может ли она получать доступ к производственным конфигурациям, могут ли ее рекомендации выполняться автоматически и кто утверждает высокорисковые изменения. Если просто подключить более мощную модель к избыточным правам, повышение эффективности может также усилить последствия ошибочных действий.
Ограничения в области кибербезопасности обычно не ограничиваются просто «неспособностью найти проблемы». Многие организации уже имеют огромный backlog предупреждений; настоящей нехваткой является подтверждение возможности эксплуатации уязвимостей, оценка важности активов, планирование окон обслуживания и проверка, что патчи не нарушат работу бизнеса. Чтобы доказать свою ценность, Daybreak должен представить более надежные операционные показатели, чем демонстрации — например, процент ручного подтверждения критических обнаружений, уровень ложных срабатываний, время от обнаружения до устранения, процент отката патчей и возможность постоянного использования различными организациями разных масштабов. Субсидии могут устранить барьеры на этапе покупки, но не могут автоматически восполнить пробелы в управлении активами и нехватку кадров.
OpenAI называет текущий этап «окном возможностей» для защитников: до того как атакующие широко овладеют более мощными ИИ-возможностями, защитникам следует использовать это время для устранения уязвимостей. Это суждение несет явный стратегический императив и остается прогностическим. Daybreak for Frontline Defenders официально объявил о обязательствах на сумму 1 миллиард долларов и первом пилотном проекте MS-ISAC с четким охватом; однако международное расширение, масштаб охвата и долгосрочная эффективность будут проверены в ближайшие месяцы. Оценивать эту инициативу следует не только по размеру выделенных средств, а по тому, получили ли организации, испытывающие наибольший дефицит ресурсов, реальную рабочую петлю, которая является аудитируемой, воспроизводимой и способна закрывать уязвимости.