Odaily Planet Daily сообщение: согласно блогу NVIDIA, с открытием ежегодной конференции Black Hat в Лас-Вегасе сегодня члены Открытого альянса безопасного ИИ (Open Secure AI Alliance) разрабатывают новые руководящие принципы для усиления кибербезопасности агентов ИИ. В настоящее время количество членов альянса превышает 120 организаций.
Сегодня Фонд Linux опубликовал проект руководства по обмену обнаружениями в области ИИ (SAFE). Это набор предложенных принципов, направленных на преобразование инцидентов кибербезопасности, происходящих в области агентного ИИ, в общие защитные возможности для всей экосистемы. Руководство SAFE разрабатывается рабочей группой Консорциума открытой безопасности ИИ. Члены консорциума, включая NVIDIA, Cisco Systems, CrowdStrike, Hugging Face и Red Hat, сотрудничают с Фондом Linux, чтобы поддержать первоначальное предложение. Руководство SAFE включает ряд рекомендаций, в том числе: конфиденциальный сбор и анализ инцидентов безопасности ИИ и «почти инцидентов»; уведомление затронутых сторон; выявление повторяющихся сбоев в системах безопасности; публикация основанных на доказательствах операционных рекомендаций для снижения рисков всей системы.
