OpenAI объявила о добавлении новой функции под названием Lockdown Mode для ChatGPT, направленной на защиту от атак с внедрением запросов. Эта функция предназначена для пользователей и организаций, работающих с конфиденциальными данными, и призвана снизить риск утечки информации.
Отключить частичные сетевые возможности
После включения ChatGPT не сможет осуществлять просмотр веб-страниц в реальном времени и будет иметь доступ только к кэшированному контенту. Поиск и отображение изображений с веб-страниц также будут отключены, однако генерация изображений останется доступной.
Ограниченный доступ к глубокому анализу и агентскому режиму
OpenAI также отключит deep research и agent mode в этом режиме. Компания заявила, что это позволит снизить влияние вредоносных инструкций, скрытых в веб-страницах, файлах и других материалах, на поведение модели.
Риск все еще нельзя полностью устранить
OpenAI также предупреждает, что даже при включенном режиме Lockdown Mode ChatGPT все еще может подвергаться влиянию инъекций подсказок. Например, в кэшированном содержимом веб-страниц или загружаемых файлах могут содержаться вредоносные команды, которые влияют на точность ответов.
Дополнительная информация: В настоящее время эта функция постепенно доступна для самообслуживаемых аккаунтов ChatGPT Business и для индивидуальных аккаунтов, соответствующих требованиям.