➥ Безпека ШІ входить у наступну фазу, і @perturbaix — це один із проектів, за яким я слідкую. До цього часу випробування на ворожість здебільшого стосувалося пошуку атак за допомогою внутрішніх команд або інструментів з відкритим кодом. Але Perturb працює над чимось цікавішим: безперервним, мотивованим підсиленням. ▸ Глобальні майни конкурують за пошук реальних ворожих прикладів ▸ Підтверджені атаки використовуються для навчання моделей, а не лише для звітів ▸ Оцінки стійкості та набори даних, якими компанії можуть діяти ▸ Перехід від активності субнету до реального продукту Це зміна від разової червоної команди → постійного зовнішнього тиску, який, на мою думку, потрібен ШІ у виробничому середовищі. Зараз я слідкую за розвитком їхнього запуску продукту та чи реально використовують вихідні дані команди поза субнетом. #TAO #SN26 #Perturb