На початку цього тижня було опубліковано дивовижне повідомлення: через виявлення нової вразливості в відкритому мові програмування PHP власники сайтів повинні негайно виправити свої сайти; якщо неможливо відразу оновити, для безпеки слід тимчасово вимкнути сайти.
На цьотижневому подкасті TechCrunch Equity Кірстен Корозек, Шон О’Кейн і я обговорили значення цієї «PHPocalypse» та чи з’являться ще подібні події у майбутньому.
Шон назвав це справжнім «моментом ліквідації», що підкреслює, що «коли ти глибоко погружаєшся в кістяк інтернету», все виглядає як «щось, що тримається на клеї та мріях». Він також зазначив, що зі збільшенням доступності великих мовних моделей та AI-агентів знаходити ці вразливості стане лише легше. (Проте саме ці вразливості були виявлені людськими дослідниками, а не моделями ШІ.)
Кірстен висловлює занепокоєння, що ми можемо вступити на «наступний рівень емоцій підготовки до кінця світу[…] бо видно, що банки можуть бути використані, і враховуючи питання даних та приватності, все це виглядає набагато більшим, ніж те, що ми зараз можемо виправити».
Ось попередній перегляд цього діалогу, текст якого було скорочено та відредаговано.
Шон О’Кейн: Здається, цього тижня інтернет у багатьох аспектах виходив з ладу.
Якщо читачі ще не дуже знайомі з цим, я вважаю найкращим способом розуміння таке: скільки разів за останні 10 років ми стикалися з моментами, коли щось ламалося або майже ламалося, і хтось, хто лише вільний час підтримував невеликий репозиторій, випадково виявив, що відбувається зловмисна діяльність, і зупинив повне руйнування інфраструктури Інтернету?
Тепер помножте цю сцену на мільярд: люди не лише отримують доступ до цих надзвичайно передових мовних моделей, якими користуються всі, але й можуть доручати їм завдання, щоб вони виконували їх самостійно; додайте до цього виникнення AI-агентів, які можуть зосереджено виконувати ці завдання.
Цього тижня ми спостерігали одночасне виникнення двох сил. З одного боку, лабораторії та компанії, такі як Google та OpenAI, дійсно відправили команди для виявлення серії вразливостей, включаючи вразливість у PHP. З іншого боку, багато людей, схоже, поспішають скористатися цими вразливостями, намагаючись взламати веб-сайти. Тому ми бачимо, як урядові сайти вимикаються, а також тимчасово відключаються деякі дуже популярні сайти для усунення цієї вразливості.
Це справжній момент виконання зобов’язань, і ми побачимо низхідний ризик, пов’язаний з тим, що так багато частин інтернету побудовано на таких відкритих технологіях, як PHP. На найнижчому рівні інтернет тримається на клеї та мріях.
Ентоні Ха: Є багато здивувальних аспектів у цій справі. Один з них — щонайменше на мою думку — це не нова вразливість. Ця вразливість існувала в PHP вже кілька десятиліть.
PHP як мова програмування використовувалася для створення великої кількості веб-сторінок, тому ця вразливість існувала вже кілька десятиліть, але раніше ніхто про неї не знав. Суть справи в тому, що ці великі компанії з штучним інтелектом — зокрема Wiz, який зараз належить Google — змогли використати LLM для пошуку цих вразливостей. [Як зазначалося вище, я тут помилився: ці вразливості виявили люди-дослідники, які брали участь у заході OpenAI і Wiz «Hack the Planet», але вони використовували ШІ для експлуатації цього бага.]
Я думаю, одна з причин полягала в тому, що ми мусили виправити це, бо якщо ми змогли знайти цю вразливість за допомогою LLM, то й інші також можуть. Єдиний спосіб випустити патч — це публічно розкрити цю вразливість. Тому це створило надзвичайно панічну ситуацію, коли вони казали: «Гаразд, ця вразливість існувала кілька десятиліть. Ви повинні виправити її негайно; якщо не зможете виправити негайно — тоді спочатку вимкніть свій сайт. Ця вразливість настільки серйозна».
Кірстен Коросек: На мою думку, важливо, що багато людей навіть не знають, що їхній вебсайт використовує PHP — як ви згадали, це відкрита мова програмування, якій вже декілька десятиліть.
Для тих, хто не знає, Hypertext Preprocessor — це його офіційна назва; це насправді основний компонент систем керування контентом, таких як WordPress, Drupal, якими користуються приблизно 70% сайтів. Ми говоримо про десятки мільйонів сайтів. Для мене ключовим є масштаб. Це також миттєво наводить мене на дві думки: по-перше, це лише початок. Скільки ще застарілих поганих програм залишилося прихованими, які можуть бути використані у майбутньому?
Друга річ — 404 Media зробили чудовий розбір, у якому згадують «розкладання посилань». Багато людей, компаній, урядів, можливо, навіть той невеликий вебсайт спільноти, закривають ці сайти. Тому ми бачимо велику кількість неробочих посилань та деякі вебсайти, що колись містили уривки історії, більше недоступні, а не зберігаються шляхом виправлення.
Шон: Ентоні, я вважаю, що ти висловив дуже добру думку. Я бачу, що багато людей незадоволені цим процесом розкриття і незадоволені трохи «показухою» у відповідних постах OpenAI.
Крім того, здається, кілька людей вже діяли до початку цього заборонного періоду, що спричинило змагання в хакерському середовищі. Я пам’ятаю, що генеральний директор Cloudflare Метью Прінс вже опублікував повідомлення, що спроби атак на PHP2Shell зросли до мільйонів.
Звичайна практика обробки таких вразливостей у кібербезпеці полягає в тому, що якщо ви проводите стрес-тестування програмного забезпечення якоїсь компанії, навіть якщо це базове програмне забезпечення, що підтримує роботу багатьох комп’ютерів або частин інтернету, ви можете повідомити про проблему цій компанії, і вона залишиться в межах цього контексту. Але коли ми маємо справу з такими глибокими, фундаментальними речами, ви не можете таємно повідомити всіх.
Я маю на увазі, що, можливо, якщо ШІ буде достатньо просунутим, і ти зможеш керувати мільярдом агентів, щоб надсилати листи кожному, хто керує певною частиною веб-сайту, це може спрацювати. Зараз ми починаємо ностальгувати по тим часам, коли адміністратори веб-сайтів були легко ідентифіковані — можливо, це якось допомогло б вирішити проблему. Але тут немає простого рішення. Я вважаю, що це лише початок, і далі буде багато перипетій, і це очевидно новий фронт у сфері кібербезпеки.
Кірстен: Пост Метью Прінса в соціальних мережах, на мій погляд, дуже показовий і досить жахливий. Крім того, не знаю, чи ви бачили, але Amazon також опублікувала блог. Це компанія з величезними фінансовими ресурсами, тому вони мають інструменти та команди, щоб виявляти те, що відбувається. Вони фактично запустили мережу містечок-пасток або приманок і дійсно зафіксували, що ще до публічного оголошення цієї вразливості хтось вже намагався її використати.
Для мене це знову зводиться до тієї ж самої проблеми: у Amazon є інструменти, капітал і експертиза, щоб впоратися з цим, але є так багато інших сайтів, навіть, можливо, урядових, які не мають такого рівня уваги. Тому я вважаю, ще саме це — справжньо жахлива частина.
Крім того, зовні є кілька AI-працівників, які можуть вивести цю ситуацію на більш високий рівень «підготовки до кінця світу», оскільки видно, що банки можуть бути використані, а також існують занепокоєння щодо даних і приватності — все це виглядає набагато більшим, ніж те, що ми зараз можемо виправити. Тож мені дуже цікаво побачити дві речі: по-перше, наскільки екстремальними стануть дії людей; по-друге, чи не призведе це до появи нових стартапів, чи ми не перейдемо на використання деяких відкритих інструментів — наприклад, тих, що надають компанії на кшталт Nvidia — для побудови цих рівнів безпеки.