➥ Безопасность ИИ вступает в следующую фазу, и @perturbaix — один из проектов, за которым я слежу. До сих пор враждебное тестирование в основном заключалось в поиске атак с помощью внутренних команд или инструментов с открытым исходным кодом. Но Perturb занимается чем-то более интересным: непрерывным и стимулируемым укреплением. ▸ Глобальные майнеры соревнуются в поиске реальных враждебных примеров ▸ Проверенные атаки используются для обучения моделей, а не только для отчетов ▸ Оценки устойчивости и наборы данных, которые компании могут использовать ▸ Переход от активности в субнете к реальному продукту Это сдвиг от одноразового red teaming к постоянному внешнему давлению, которое, как я считаю, необходимо для ИИ в продакшене. Сейчас я наблюдаю, как развивается запуск их продукта, и используют ли его команды вне субнета. #TAO #SN26 #Perturb