A OpenAI anunciou a adição de uma nova funcionalidade chamada Lockdown Mode ao ChatGPT, voltada especialmente para ataques de injeção de prompt. A funcionalidade é destinada a usuários e instituições que lidam com dados sensíveis, com o objetivo de reduzir o risco de vazamento de dados.
Desativar parte da capacidade de conexão com a internet
Após ativação, o ChatGPT não poderá realizar navegação em tempo real na web e terá acesso apenas a conteúdo em cache. A busca e exibição de imagens da web também serão desativadas, mas a geração de imagens ainda poderá ser utilizada.
Pesquisa aprofundada e modelo de agente limitados
A OpenAI também desativará o deep research e o agent mode nesse modo. A empresa afirmou que isso reduz a interferência no comportamento do modelo quando instruções maliciosas estão ocultas em páginas da web, arquivos e outros conteúdos.
Ainda não é possível eliminar completamente o risco
A OpenAI também alertou que, mesmo com o Modo Lockdown ativado, o ChatGPT ainda pode ser afetado por injeção de prompts. Por exemplo, instruções maliciosas ainda podem ser incluídas no conteúdo armazenado em cache ou em arquivos enviados, comprometendo a precisão das respostas.
Informação adicional: Atualmente, esse recurso está sendo liberado gradualmente para contas autosserviço do ChatGPT Business e para contas pessoais elegíveis.