Дослідник безпеки Anthropic безкоштовно опублікував посібник з того, як використовувати ШІ для зменшення поверхні атаки ваших програм. І серед усіх цих хаків, які ми зараз бачимо, це важливіше, ніж будь-коли. Якщо ви підтримуєте веб-сайт, додаток чи онлайн-систему, це саме та частина, яка найбільш вразлива, бо зловмисник може дістатися до неї без будь-якого пароля. Замість пошуку однієї вразливості за іншою, ідея полягає в тому, щоб зменшити кількість відкритих елементів для зовнішніх користувачів. Таким чином, навіть помилка, яку ще не виявили, стає складнішою для досягнення. Anthropic протестувала цей підхід на OpenSSH — програмі, яку адміністратори використовують для доступу до серверів через інтернет, і яку вона називає однією з найбільш перевірених у світі. За оцінками самої компанії, ця робота скоротила приблизно на п’яту частину коду, до якого можна було отримати доступ без входу у програму у її стандартній установці. Anthropic поклала на Claude завдання шукати в трьох напрямках та перевіряти кожен виявлений випадок, і стверджує, що загальна ідея працює навіть без інструменту, який вона розробила. Крок за кроком: 1 — Взявши програму у її стандартній установці, знайдіть код, до якого може отримати доступ хтось іззовні, але який не використовується жодною нормальною функцією програми. 2 — Знайдіть складний та чутливий код, який виконується до захисту, наприклад, перед входом. 3 — Тестуйте комбінації конфігурацій. Дві опції можуть здаватися розумними окремо, а разом вимкнути захист без попередження. 4 — Підтвердьте кожен виявлений випадок шляхом реального запуску програми, а не лише читання коду. 5 — Після кожного нового блокування запускайте тести самого проекту та вимагайте того ж результату, що й раніше. Якщо зміна впливає на нестандартну конфігурацію, дозвольте людині прийняти рішення. У тестах Anthropic Claude виявив 493 проблеми у 25 проектах з відкритим кодом, що разом складають понад 5 мільйонів рядків. У OpenSSH це було близько 4 500 рядків експериментальної функції, до якої будь-хто мав доступ до входу у стандартній установці програми. Anthropic повідомила власників OpenSSH та працювала з ними над виправленням. Перша частина була випущена у версії 10.5 у серпні, а решта — у версії 10.6 6 жовтня. Почніть із вашої власної програми у її стандартній установці. Якщо це було у OpenSSH, уявіть, що є у коді, який ніхто не перевіряє.