OpenAI mengumumkan penambahan fitur baru bernama Lockdown Mode untuk ChatGPT, yang berfokus pada serangan prompt injection. Fitur ini ditujukan bagi pengguna dan institusi yang perlu menangani data sensitif, dengan tujuan mengurangi risiko kebocoran data.
Nonaktifkan sebagian kemampuan koneksi internet
Setelah diaktifkan, ChatGPT tidak akan dapat melakukan penelusuran web secara real-time, hanya dapat mengakses konten yang telah di-cache. Pencarian dan tampilan gambar web juga akan dinonaktifkan, tetapi pembuatan gambar masih dapat digunakan.
Penelitian mendalam dan mode agen terbatas
OpenAI juga akan menonaktifkan deep research dan agent mode dalam mode ini. Perusahaan menyatakan bahwa hal ini bertujuan untuk mengurangi gangguan terhadap perilaku model ketika perintah jahat disembunyikan di dalam konten seperti halaman web atau file.
Masih belum dapat sepenuhnya menghilangkan risiko
OpenAI juga memperingatkan bahwa meskipun Lockdown Mode diaktifkan, ChatGPT masih dapat terpengaruh oleh prompt injection. Misalnya, konten halaman web yang di-cache atau file yang diunggah masih dapat menyertakan perintah jahat, yang berpotensi memengaruhi akurasi jawaban.
Informasi tambahan: Saat ini, fitur ini secara bertahap dibuka untuk akun mandiri ChatGPT Business dan akun pribadi yang memenuhi syarat.