OpenAI anuncia una nueva función llamada Lockdown Mode para ChatGPT, enfocada en ataques de prompt injection. Esta función está dirigida a usuarios e instituciones que manejan datos sensibles, con el objetivo de reducir el riesgo de fuga de datos.
Desactivar parte de la capacidad de conexión a internet
Al activarse, ChatGPT no podrá realizar exploración en tiempo real de páginas web y solo podrá acceder a contenido en caché. La búsqueda y visualización de imágenes en páginas web también se desactivarán, pero la generación de imágenes seguirá estando disponible.
Investigación profunda y modo agente limitados
OpenAI también desactivará la función de investigación profunda y el modo agente en este modo. La empresa indica que esto reduce la interferencia en el comportamiento del modelo cuando instrucciones maliciosas se ocultan en contenido como páginas web y archivos.
Aún no se puede eliminar completamente el riesgo
OpenAI también advierte que, incluso con el Modo Bloqueo activado, ChatGPT aún puede verse afectado por inyecciones de prompts. Por ejemplo, instrucciones maliciosas aún pueden incluirse en contenido de páginas web en caché o en archivos cargados, afectando la precisión de las respuestas.
Información adicional: Actualmente, esta función se está implementando gradualmente para cuentas autogestionadas de ChatGPT Business y para cuentas personales que cumplan con los requisitos.