Sesi ChatGPT larut malam di mana anda bertanya sesuatu yang tidak pernah anda cari di Google? Ia mungkin berakhir di mahkamah.
Siasatan Washington Post yang diterbitkan pada 27 Ogos mendapati bahawa sekurang-kurangnya selusin kes perdata dan jenayah AS dalam dua tahun terakhir telah merujuk kepada log perbualan chatbot, terutamanya dari ChatGPT. Log-log tersebut telah dikeluarkan melalui surat panggilan, diserahkan sebagai bukti, dan dimasukkan ke dalam rekod awam, mendedahkan kandungan yang sangat peribadi yang pengguna hampir pasti menyangka akan kekal antara mereka dan AI kegemaran mereka.
Terapis AI anda akan memberi kesaksian melawan anda
Masalah utama adalah sangat mudah tetapi menyesatkan. Perbualan ChatGPT dianggap oleh mahkamah sebagai rekod elektronik biasa. Ia tidak mendapat perlindungan khas. Tiada privasi peguam-klien. Tiada kerahsiaan terapis-pesakit. Tiada perlindungan Amandemen Kelima.
Salah satu kes yang lebih ketara melibatkan R.K.C., seorang remaja yang terlibat dalam tindakan undang-undang terhadap syarikat media sosial utama berkenaan kerosakan yang didakwa berkaitan kecanduan. Peguam pertahanan menghantar perbualan ChatGPT R.K.C. pada Oktober 2024 dalam dokumen mahkamah. Log-log tersebut termasuk perbincangan sensitif mengenai penyelesaian berpotensi sebanyak $1 juta dan isu-isu peribadi, jenis bahan yang biasanya dibincangkan di belakang pintu tertutup bersama peguam, bukan diketik ke dalam chatbot.
Sisi kriminal lebih jelas lagi. Dalam kes di Missouri, penguasa menarik soalan ChatGPT seorang tersangka mengenai cara mengesan tanggungjawab selepas melakukan perusakan. Soalan itu diambil secara langsung daripada peranti beliau. Dalam kes-kes lain, log sembang mendedahkan individu yang bertanya kepada AI bagaimana untuk menyembunyikan jenayah atau membincangkan tindakan keganasan, yang memicu amaran penguasa.
Kotak data OpenAI
Mesin undang-undang sekitar log perbualan AI telah membina diri secara senyap. Pada Mei 2025, seorang hakim persekutuan mengarahkan OpenAI untuk mengekalkan log pengguna, termasuk perbualan yang telah dipadamkan. Arahan itu menghasilkan pengeluaran yang signifikan: 20 juta log perbualan yang telah dianonimkan telah diserahkan pada awal 2026 sebagai sebahagian daripada litigasi hak cipta yang sedang berlangsung.
Laporan transparansi milik OpenAI untuk separuh kedua 2025 menawarkan gambaran mengenai minat kerajaan terhadap data pengguna. Syarikat tersebut menerima 75 permintaan kandungan daripada kerajaan semasa tempoh itu dan mematuhi 62 kes yang melibatkan 84 akaun.
Zon kelabu undang-undang
Keputusan mahkamah mengenai kesahihan log perbualan AI tidak konsisten. Sesetengah mahkamah telah memperlakukan perbualan AI sebagai bukti elektronik yang boleh diperoleh secara langsung, tidak berbeza daripada e-mel atau mesej teks. Yang lain pula berdepan dengan persoalan sama ada kerja tertentu yang dibantu AI mungkin layak mendapat perlindungan hasil kerja, terutamanya apabila peguam menggunakan chatbot semasa persiapan litigasi. Keputusannya bercampur-campur, mencipta corak perundangan yang berbeza mengikut yurisdiksi.