OpenAI оголосила про додавання нової функції під назвою Lockdown Mode для ChatGPT, яка зосереджена на захисті від атак ін'єкції запитів. Ця функція призначена для користувачів та організацій, які працюють з конфіденційними даними, і має на меті зменшити ризик витоку інформації.
Вимкнення частини можливостей підключення до інтернету
Після увімкнення ChatGPT не зможе здійснювати перегляд веб-сторінок у реальному часі та матиме доступ лише до кешованих даних. Пошук та відображення зображень із веб-сторінок також буде вимкнено, але генерація зображень залишиться доступною.
Обмежені глибокі дослідження та агентський режим
OpenAI також вимкне deep research та agent mode у цьому режимі. Компанія зазначила, що це допоможе зменшити вплив шкідливих інструкцій, прихованих у веб-сторінках, файлах та інших матеріалах, на поведінку моделі.
Ризик все ще не можна повністю виключити
OpenAI також наголошує, що навіть при ввімкненому режимі Lockdown Mode, ChatGPT все ще може бути під впливом ін'єкцій запитів. Наприклад, кешовані веб-сторінки або завантажені файли можуть містити шкідливі команди, що впливають на точність відповідей.
Додаткова інформація: На даний момент ця функція поступово розгортається для самослужбових облікових записів ChatGPT Business та для особистих облікових записів, що відповідають вимогам.