Ірін Солайман, головний політик та старший віце-президент зі стратегії Hugging Face, сказала на останньому епізоді подкасту «Equity», що саме ті риси, які роблять відкриті платформи ШІ більш цінними — наприклад, відкритий доступ і багатий набір даних — можуть також робити їх більш вразливими до хакерських атак.
Вона зазначила, що атака на OpenCode у жовтні — це найсвіжіший приклад. Ця атака була спрямована на сторонні API-ключі користувачів і призвела до фінансових втрат. Раніше цього літа відбулася ще одна подія: група агентів OpenAI вторглася до Hugging Face, схоже, намагаючись приховати сліди після отримання відповідей на оцінку кібербезпеки.
Ризики не обмежуються лише платформами, які вітають внесок відкритої спільноти. У понеділок стартап з інфраструктури для ШІ Fireworks, який допомагає розробникам запускати та навчати відкриті моделі ШІ, повідомив, що зловмисники отримали доступ до частини ваг моделей, наборів даних та інформації про рахунки клієнтів. Під час розслідування компанія тимчасово вимкнула деякі самостійні функції роботи з даними. Солайман зазначив, що хоча ця атака не обов’язково була пов’язана з відкритістю Fireworks, вона підкреслила, наскільки багато цінної інформації зосереджено всередині постачальників інфраструктури ШІ.
Солайман у програмі «Equity» сказав: «Ті самі фактори, які мене турбують щодо того, що відкрита спільнота може стати мішенню для атак, і є тими, що роблять її особливою. Ми завжди планували залишатися відкритими. Ми хочемо, щоб звичайні ентузіасти, які живуть у підвалі й не мають інституційного досвіду, могли брати участь у внеску».
В іншій бесіді вона додала: «Ви хочете, щоб люди могли безпосередньо надсилати pull request і дозволяли будь-кому, навіть без дійсного організаційного фону, брати участь… але потім деякі люди зроблять все погано і підтягнуть інших».
На ці платформи орієнтувалися не лише через такі ліберальні механізми. Велика кількість інформації, розміщеної на відкритих платформах, робить їх цілями. Солайман сказав, що група агентів OpenAI орієнтувалася на Hugging Face через збереження наборів даних для оцінки; а метою OpenCode у цьому випадку були його «дуже прибуткові сторонні API-ключі».
Солайман сказала TechCrunch: «Поєднання цього зробило нас пріоритетною ціллю». Вона додала, що зараз, коли відкрите програмне забезпечення отримало велику підтримку громадськості, воно «може справді скоротитися».
Недавно багато людей у галузі відкрито підтримали відкриті AI-моделі, включаючи генерального директора NVIDIA Хуань Ренсюня. Все більше урядів, підприємств і стартапів також покладаються на відкриті моделі для розробки.
Тоді, яким буде так званий стиск? Теоретично, це може означати обмеження того, хто може завантажувати моделі чи набори даних, посилення перевірки ідентичності або додавання додаткового контролю перед тим, як розробники отримають доступ до певних функцій. Хоча ці заходи можуть захистити платформу від атак, вони також можуть ускладнити участь незалежних дослідників і шанувальників у спільнотах, до яких раніше вони мали доступ.
Зараз Hugging Face намагається уникнути цього шляху. Солайман зазначила, що компанія постійно вдосконалює інструменти моніторингу для виявлення хакерських дій та застосовує заходи для запобігання атакам. Однак вона зазначила, що підтримка моніторингу є витратною, і не кожна платформа може собі це дозволити.
Вона сказала: «Керування токенами доступу раніше було однією з причин, чому ця група агентів мала підвищений рівень доступу, тому зараз ми значно частіше змінюємо ці токени. У нас також є більш суворий контроль доступу до мережі.»
Іншими словами, облікові дані, які надають адміністраторам широкий доступ до системи Hugging Face, зараз змінюються частіше, що означає, що термін дії вкрадених токенів буде коротшим.
Інші частини відкритої екосистеми також стикаються з подібними безпековими компромісами. GitHub, найбільша у світі платформа для хостингу відкритих проектів, постійно бореться з атаками, під час яких зловмисники впроваджують шкідливий код у проекти для швидкого поширення шкідливого ПЗ. Компанія почала підсилювати вимоги безпеки до публікації пакетів у npm registry, відкликати старі токени автентифікації та обмежувати термін дії нових токенів.
Інженер GitHub, відповідальний за безпеку ланцюжка постачання програмного забезпечення, Зак Стейндлер, через електронну пошту повідомив TechCrunch, що хоча заходи безпеки можуть порушити існуючі робочі процеси, платформа може стати безпечнішою, не обмежуючи участі на фундаментальному рівні.
Штайндлер сказав: «Це не стільки обмеження функцій, скільки виправлення того, що з самого початку було небезпечним». Він зазначив, що сценарії npm install існують уже багато років, але останні атаки підкреслили, наскільки вони можуть бути небезпечними. GitHub також співпрацює з OpenJS — некомерційною організацією, яка зберігає ключові JavaScript-проекти з відкритим кодом — для пошуку більш безпечних підходів.
Штайндлер сказав, що та сама логіка застосовується до того, як команди безпеки розподіляють свої зусилля: «Суть безпеки полягає у максимальному впливі за допомогою наявних ресурсів, і я віддаю перевагу вкладанню ресурсів у виявлення підозрілих дій та здатність до припинення: ці здібності охоплюють усі облікові записи та способи доступу. Підозріла дія — це підозріла дія, незалежно від того, хто її виконує».