На мою думку, підхід Perturb має сенс, але не через звичайні причини «децентралізованого ІІ», які часто згадують. Безпека ІІ стає все більшою проблемою, оскільки моделі стають більш здатними, а агенти починають діяти з меншим наглядом з боку людини. І саме тут @perturbaix має структурну перевагу. Більшість red teaming все ще проводиться в межах компаній або за допомогою статичних відкритих інструментів. Perturb перетворює виявлення зловмисних атак на безперервну, мотивовану конкуренцію, а потім використовує ці знаходки для навчання самих моделей. Проблема в тому, що знайти атаки і перетворити їх на те, за що компанії зможуть заплатити — це дві різні речі. Навіть якщо майнири продовжуватимуть генерувати потужні зловмисні приклади, справжнє питання — чи вважатимуть підприємства отримані оцінки, набори даних і сертифікати достатньо надійними, щоб діяти на їх основі. Перехід до реального продукту з безперервним скануванням та підсиленням може надати їм більший контроль над цим розподільчим шаром. Ми також бачимо, що субнет дозріває (сканування та навчання вже працюють, починається продуктова фаза). Але не слід плутати активність субнету з доказом того, що комерційна модель працює. Вихід із чисто дослідницького режиму означає, що Perturb тепер має довести, що може генерувати попит і прибуток, не спираючись лише на емісії. Моя думка: безперервний зовнішній зловмисний тиск може стати таким же важливим, як і продуктивність моделей у наступні кілька років. Якщо Perturb зможе продуктизувати цей підхід, не залишаючи вихідні дані переважно всередині субнету — напрямок буде обґрунтованим. В іншому випадку він ризикне залишитися цікавою дослідницькою мережею, а не інфраструктурою. SN26 на цих рівнях цікавий у будь-якому разі. #Bittensor $TAO #Perturb #AI