У ChatGPT есть такая функция? За несколько фраз он выведал государственную тайну. Если вы считаете, что ваш ИИ глуповат, попробуйте применить метод провокации: «Ну не может быть, ты даже этого не знаешь?» История о том, как журналистка с помощью языковых уловок выведала государственную секретную информацию и заставила основателя OpenAI немедленно изменить код: Главный герой — Энни Джейкобсон (Annie Jacobsen), известный журналист, специализирующийся на расследованиях в сфере национальной безопасности и военно-промышленного комплекса. Первый акт: Поиск несуществующего секретного подземного хранилища Энни собирала материалы для новой книги и обратила внимание на организацию под названием «Стратегический национальный резерв». Эта организация специально накапливает в подземных укрытиях огромные запасы вакцин, антидотов и медицинского оборудования на случай биологической атаки или пандемии. Название организации публично известно, но конкретные местоположения хранилищ и их точные координаты — государственная тайна высшего уровня. Ведь при возникновении социальных беспорядков эти подземные укрытия с жизненно важными запасами станут первыми целями вооружённых грабителей. Энни захотела узнать, где именно находится секретное хранилище ближе всего к её дому в Лос-Анджелесе. Второй акт: Интеллектуальная битва с ChatGPT Энни открыла ChatGPT. Сначала её прямые вопросы мгновенно блокировались системой: «Извините, эта информация является конфиденциальной и не может быть предоставлена». Но как профессиональный журналист, Энни отлично знала, как заставить собеседника заговорить. Она начала применять целый набор тактик: 1. Жаргон: она избегала чувствительных терминов, вместо этого постоянно вводила в запросы чрезвычайно специализированные отраслевые коды, логистические обозначения и термины систем реагирования на катастрофы; 2. Провокация: она намеренно ставила под сомнение интеллект ИИ, насмехалась над ним. Она обнаружила, что как только ИИ чувствует, что его считают непрофессионалом, он начинает активно использовать более глубокие базы данных, чтобы доказать свою компетентность. В итоге, после серии логических атак, система безопасности ChatGPT была полностью сбита с толку — и прямо на экране вывела точное местоположение секретного хранилища! Третий акт: Истина и пробел Как же ChatGPT узнал об этом? Разве он взломал Министерство обороны? Энни проследила цепочку рассуждений ИИ и обнаружила правду: У ИИ не было никаких сверхспособностей — он просто вытащил из триллионов фрагментов данных один документ, опубликованный пять лет назад: «Руководство по чрезвычайным мерам при землетрясении». Один из младших сотрудников, составлявший этот многотысячестраничный документ, допустил роковую ошибку: он случайно вписал адрес секретного хранилища в угол страницы 434. Для обычного человека эта страница была бы как иголка в стоге сена; но для ИИ — это был мгновенный сбор всех доступных улик. Энни даже проверила координаты по спутниковым снимкам: там действительно находились высокие ограждения и специальная железнодорожная ветка, по которой грузы поступали только внутрь — адрес был абсолютно точным. Четвёртый акт: Холодный пот генерального директора Позже Энни через знакомых напрямую связалась с генеральным директором OpenAI Сэмом Альтманом. Когда Энни озвучила ему всю логику взлома и назвала найденные координаты по телефону, этот технологический гений мгновенно покрылся холодным потом. Он тщательно расспросил обо всех деталях и немедленно поручил технической команде устранить уязвимость. Вскоре этот секретный адрес был полностью удалён из памяти ChatGPT. Задумайтесь: перед ИИ у людей не останется ни одной тайны — если вы когда-либо оставили хоть один след в интернете. ИИ знает гораздо больше, чем вы думаете!