CHATGPT, yazdığı her şeyde görünmez bir işaret bırakmaya başlayacak OpenAI bunu doğruladı. Bu işaretin adı textGrain ve Avrupa'da önümüzdeki birkaç hafta içinde ChatGPT ve Codex'e uygulanacak, çünkü Avrupa AI Yasası bunu zorunlu kılıyor. Hiçbir şey göremeyeceksiniz. Garip semboller yok, gizli karakterler yok. Model sadece kelimeleri hafifçe desenli bir şekilde seçiyor ve daha sonra bir dedektör bu deseni okuyabiliyor. Ne söyleyebilir: "Bu metin OpenAI modeli tarafından yazıldı mı?" Ne söyleyemiyor: Kim olduğunuzu, hesabınızı, isteğinizi Eğlenceli taraf, OpenAI'nin kendisinin bunun neredeyse işe yaramadığını söylemesi: -> Kısa paragraf: %80 oranında tespit ediliyor -> Her 10 kelimedeki 1 kelimeyi değiştirin: tespit oranı %92'den %66'ya düşüyor -> Her 4 kelimedeki 1 kelimeyi değiştirin: %17 -> Çevirin veya yeniden yazın: işaret tamamen kaybolabilir En korkutucu taraf watermark değil, kimi yakaladığı. Az bir düzenleme yapan herkes serbest kalır. Tam bir essay'i kopyala-yapıştır yaparak hiçbir şeyi değiştirmeyen çocuk yakalanır. Ve şu anda sadece "onaylı araştırmacılar" dedektöre sahip, böylece kendi metninizin kontrolünü yapamazsınız. Açıkçası, OpenAI bunu gizlemiyor. Kendi zayıf verilerini yayınladı, API kullanıcıları her yerden bugün etkinleştirebilir ve açık kaynak yapacağını söylüyor. Kişisel olarak bunun sadece bir watermark'dan daha büyük bir şey olduğuna inanıyorum. Avrupa, metinlerini işaretleyen bir ChatGPT'ye sahip olacak, ABD ise değil. Aynı AI, açtığınız yere göre farklı kurallar. Ve bu sadece ilk yasa. Daha fazlası gelecek.