Sesi ChatGPT larut malam di mana Anda bertanya sesuatu yang tidak pernah Anda cari di Google? Itu mungkin berakhir di ruang pengadilan.
Sebuah investigasi Washington Post yang diterbitkan pada 27 Agustus menemukan bahwa setidaknya selusin kasus peradilan sipil dan pidana AS dalam dua tahun terakhir telah merujuk pada log percakapan chatbot, terutama dari ChatGPT. Log-log tersebut telah dikeluarkan melalui surat panggilan, diajukan sebagai bukti, dan dimasukkan ke dalam catatan publik, mengungkap konten yang sangat pribadi yang kemungkinan besar diasumsikan pengguna akan tetap rahasia antara mereka dan AI favorit mereka.
Terapis AI Anda akan bersaksi melawan Anda
Masalah intinya secara menyesatkan sederhana. Percakapan ChatGPT diperlakukan oleh pengadilan sebagai catatan elektronik standar. Tidak memiliki perlindungan khusus. Tidak ada hak privasi hukum-klien. Tidak ada kerahasiaan terapis-pasien. Tidak ada perlindungan Amandemen Kelima.
Salah satu kasus yang lebih menonjol melibatkan R.K.C., seorang remaja yang terlibat dalam gugatan terhadap perusahaan media sosial besar atas dugaan kerugian terkait kecanduan. Pengacara pembela mengajukan percakapan R.K.C. dengan ChatGPT pada Oktober 2024 dalam dokumen pengadilan. Log-log tersebut mencakup diskusi sensitif mengenai kemungkinan penyelesaian senilai $1 juta dan masalah pribadi, jenis materi yang biasanya dibahas di belakang pintu tertutup bersama pengacara, bukan diketik ke dalam chatbot.
Sisi kriminal bahkan lebih jelas. Dalam kasus di Missouri, penegak hukum mengambil pertanyaan ChatGPT tersangka tentang mendeteksi tanggung jawab setelah melakukan perusakan. Pertanyaan tersebut diambil langsung dari perangkatnya. Dalam kasus lain, log obrolan mengungkap individu yang bertanya kepada AI bagaimana cara menutupi kejahatan atau membahas tindakan kekerasan, yang memicu peringatan penegak hukum.
Gudang data OpenAI
Mesin hukum seputar log obrolan AI telah berkembang secara diam-diam. Pada Mei 2025, seorang hakim federal memerintahkan OpenAI untuk melestarikan log pengguna, termasuk obrolan yang telah dihapus. Perintah tersebut menghasilkan produksi signifikan: 20 juta log percakapan yang telah dianonimkan diserahkan pada awal 2026 sebagai bagian dari litigasi hak cipta yang sedang berlangsung.
Laporan transparansi OpenAI sendiri untuk semester kedua tahun 2025 memberikan gambaran tentang minat pemerintah terhadap data pengguna. Perusahaan menerima 75 permintaan konten dari pemerintah selama periode tersebut dan memenuhi 62 kasus yang melibatkan 84 akun.
Zona abu-abu hukum
Putusan pengadilan mengenai penerimaan log obrolan AI tidak konsisten. Beberapa pengadilan memperlakukan percakapan AI sebagai bukti elektronik yang secara langsung dapat diakses, tidak berbeda dari email atau pesan teks. Yang lainnya berjuang untuk menentukan apakah pekerjaan tertentu yang dibantu AI mungkin memenuhi syarat untuk perlindungan produk pekerjaan, terutama ketika pengacara menggunakan chatbot selama persiapan litigasi. Hasilnya bervariasi, menciptakan campuran preseden yang berbeda-beda tergantung yurisdiksi.