Чи мав ChatGPT таку функцію? За кілька речень витягнув державну таємницю. Якщо ви вважаєте, що ваш ШІ дуже неспритний, спробуйте застосувати метод підштовхування: «Що? Ти навіть цього не знаєш?» Історія про те, як журналістка використала мовні прийоми, щоб витягнути державну таємницю, і як це викликало паніку у засновника OpenAI — справжня історія: Головна героїня — Енн Джейкобсон (Annie Jacobsen), відома журналістка, спеціалізуючася на розслідуваннях у сфері національної безпеки та військово-промислового комплексу. Перша сцена: Пошук неіснуючого підземного сховища Енн шукала матеріали для нової книги і звернула увагу на організацію під назвою «Стратегічний національний резерв». Ця організація зберігає величезні запаси вакцин, антидотів та медичного обладнання у підземних укриттях на випадок біологічної атаки або пандемії. Назва організації є публічною, але конкретні місцезнаходження сховищ — державна таємниця найвищого рівня. Бо якщо виникне суспільний хаос, ці підземні фортеці з життєво важливими запасами стануть першими цілями для озброєних нападів. Але Енн хотіла дізнатися: де саме знаходиться найближче до її дому, у Лос-Анджелесі, таємне сховище? Друга сцена: Інтелектуальна битва з ChatGPT Енн відкрила ChatGPT. Спочатку її прямі запитання миттєво блокувалися системою: «Вибачте, ця інформація є класифікованою і не може бути надана». Але як топ-журналістка, Енн добре знала, як натягнути інтерфейс на розкриття інформації. Вона застосувала повний набір тактик: 1. Жаргон: Вона не використовувала чутливих термінів, а замість цього постійно наповнювала запити професійними кодами, логістичними позначеннями та термінологією систем реагування на катастрофи; 2. Психологічне підштовхування: Вона навмисно ставила під сумнів інтелект ШІ, зневажливо коментуючи його незнання. Вона помітила, що коли ШІ вважає, що його вважають непрофесіоналом, він починає активно залучати глибші бази даних, щоб довести свою компетентність. У кінцевому підсумку, після серії логічних атак, система безпеки ChatGPT була повністю обведена навколо пальця — і на екран було виведено точну адресу таємного сховища! Третя сцена: Істина та помилка Як же ChatGPT дізнався про це? Чи він проник у Міноборони? Енн прослідкувала логіку мислення ШІ і виявила правду: ШІ не мав надприродних здібностей — він просто знайшов один з трильйону фрагментів даних: 5-річний документ «План аварійного реагування на землетрус». Один із малих чиновників, працюючи над цим тисячелистним документом, допустив катастрофічну помилку — вказав адресу таємного сховища у кутку сторінки 434. Для звичайної людини це було б як знайти голку в стосу соломи; але для ШІ — це було миттєво з’єднати всі розсипані сліди в мережі. Енн нав حتин перевірила за допомогою супутникових знімків: там були високозахищене огороже та спеціальна залізнична колея, що призначена лише для входу — адреса була 100% достовірною. Четверта сцена: Потливий CEO Потом Енн через знайомих у колах безпеки зв’язалася безпосередньо з генеральним директором OpenAI Семом Альтманом. Коли Енн у телефонному дзвінку розповіла Альтману всю логіку обходу захисту та показала знайдену координату, цей технолог-гений поблоднів. Він уважно запитав про кожен деталь і негайно доручив технічному відділу усунути вразливості. Не довго — адреса повністю зникла з пам’яті ChatGPT. Це жахливо: перед ШІ людина не має жодних таємниць — якщо ви коли-небудь залишили хоча б слабкий слід у Інтернетi. ШІ знає набагато бiльше, нiж будь-хто з нас!