Substack, Şeffaflığı Artırmak İçin AI İçerik Tespit Aracıni Başlatıyor

İnternetteki gerçek içerikleri ayırt etmek artık daha zorlaşıyor.

Bu sorun Substack'te nispeten hafif, böyle kalmasını istiyoruz. İlk adım olarak, bugün Substack uygulamasında Pangram ile birlikte bir özellik tanıttık. Gelecekte, metinleri tarayarak bunların ne kadarının el yazısı, ne kadarının AI destekli olduğunu görebileceksiniz. Daha sonra detaylı olarak açıklayacağım, ancak önce bunun neden önemli olduğunu açıklayayım.

Pangram'e göre, bazı platformlarda AI tarafından oluşturulan metinlerin oranı artmakta ve %40'a kadar ulaşmaktadır. Bu büyük bir değişimdir. Birçok kişi, akışlarının ruhsuz çöp içeriklerle dolu olduğunu şikayet ediyor. Bazıları ise okudukları şeyin insan tarafından yazılmadığını fark etmiyor.

Sorun, insanların AI kullanması ya da AI çıktılarının kalitesi değil. Tüm AI ile oluşturulmuş içerikler çöp değildir, tüm çöpler de AI ile oluşturulmamıştır. Sorun, okuyucunun beklentileri ile gerçeklik arasında uyumsuzluk olduğunda, özellikle bilinçsizce arkasında hiçbir insan düşüncesi olmayan bir içerik üzerine odaklandığında ortaya çıkar. İşte Claudefishing.

Freddie deBoer şöyle diyor:

İnsan tarafından yaratılmış sanata olan ilgim, arkasında birinin olduğunu bilmemden kaynaklanır; tam olarak aradığım şey budur — başkaları, sanat aracılığıyla kendi içlerinde gizli tuttuklarını bana gösterirler. Bu süreçte beni aldatmak, sadece bir dolandırıcılıktır.

Substack'ta bu sorunu önemsiyoruz, çünkü işimizin çekirdeğini oluşturan kültüre ekonomik bir motor kurmakla ilgilidir. Bu, düşünen, hisseden, gözlemleyen, tartışan, deneyen, değerlendiren, çabalayan, tavsiye veren ve ilgilenen gerçek insanların, inandıkları çalışmalardan para kazanmalarına yardımcı olmak anlamına gelir. Bu ağ, insanlar arasındaki güvence üzerine kuruludur; bu da neden etkili olduğu budur.

İnsanlara ait olmalı olan internetin bir kısmını insan yapımı olmayan içerikler işgal ettiğinde, kamu alanını kirletir ve insan seslerini bulmak ve duymak zorlaşır. Okuyucuların okuduklarının gerçek olup olmadığını sorgulamaya başlaması, yazar kimliğine olan güveni zedeler ve yazarların geçimini tehdit eder — bu, AI araçlarını dikkatli bir şekilde kullanarak inandıkları eserleri oluşturanları da kapsar. Sahte içerikleri ödüllendiren platformlar, yarışmayı en alt seviyeye doğru çeker.

Bu yeni bir alan, tüm cevapları bildiğimizi söyleyemeyiz. Ancak bildiğimiz bir şey var: Substack uygulamanızın LinkedIn'e dönüşmesini beklemek istemiyoruz. Bu nedenle ilk olarak, şeffaflığı artırmayı ve sizden geri bildirim almak için bazı yeni araçlar sunduk.

Öncü AI tespit aracı Pangram ile iş birliği içindeyiz. Notlar, yanıtlar, yorumlar ve gönderileri tarayarak, metnin ne kadarının el yazısı olduğunu veya AI destekli olarak oluşturulduğunu tahmin edebileceksiniz. Bu, bugün itibarıyla yayınlanan 100 kelimedan fazla metinler için geçerli olacak ve analiz sonuçları yalnızca görüntülemek isteyenlere gösterilecektir.

Lütfen unutmayın ki Pangram, metnin AI tarafından oluşturulup oluşturulmadığını tespit edebilir, ancak yaratma sürecinde insan çabasının yoğun olup olmadığını veya AI araçlarının kaynak olarak kullanılıp kullanılmadığını tespit edemez. Pangram mükemmel değildir, ancak bağımsız araştırmalar, AI tarafından üretilen metinleri yüksek bir doğrulukla tespit edebildiğini göstermektedir. İnsanların, kendi kararlarını vermede bu tür araçları kullanmalarının faydalı olduğuna inanıyoruz.

Ayrıca yaratıcılar için, süreçlerinizi açıklayabileceğiniz ve okuyuculara beklentilerinizi belirleyebileceğiniz bir "Bu eseri nasıl oluşturdum" açıklaması ekleme özelliği dahil olmak üzere araçlar sunduk. Taslaklarınızı yayımlamadan önce Pangram ile çalıştırabilir veya kendi eserlerinizle ilgili yanlış olduğunu düşündüğünüz herhangi bir tarama sonucunu rapor edip silebilirsiniz.

Bu özellikler şimdi web ve iOS'ta kullanılabilir olup, yakında Android'de de yayınlanacaktır. Bu sadece bir başlangıçtır. Geri bildirimlere ve ilgiye göre şu araçları düşünüyoruz:

Kendi topluluğunuz için AI içeriği tercihlerini ayarlayın

Yaratıcıların, insan yazımı mı yoksa dikkatli bir şekilde kullanılan AI mı kullanırlarsa kullanımlar, sundukları bireysel değeri daha fazla şekilde ifade etmelerini sağlayın.

Okuyucuların, onlara önerilecek içeriklerle ilgili tercihlerini ayarlamalarını sağlayın.

AI'nin bu sorunları hızlandırmasıyla birlikte, spam, botlar ve çeşitli dolandırıcılıklara karşı sistemimizi sürekli geliştirmeye devam ediyoruz.

Yapay zekayı işlerde yardımcı araç olarak kullanmaya karşı değiliz; insanların kendi ifadelerini sunmak için hangi araçları kullanacaklarını özgürce seçmelerini doğru buluyoruz. Platformda bazıları insan yazımını maksimize edenler, bazıları ise AI araçlarını öncü şekilde araştırıyor ve destekledikleri eserleri detaylı bir şekilde oluşturuyor. Substack'te yapay zekayı yazılım yazmak, araştırma yapmak ve kesitler, çeviri gibi ürün fonksiyonları oluşturmak için her zaman kullandık.

Ancak insanlar ne aldıklarını bilmelidir. Örneğin, birinin araştırmalarını sunmak için AI'ye büyük ölçüde dayandığı keskin analizleri okumak size önemli gelmeyebilir, ancak sadece insan tarafından yazılan yanıtlarla etkileşim kurmak isteyebilirsiniz. Her iki durumda da size seçim hakkı verilmelidir.

Bu garip yeni dünyaya birlikte girmekteyiz ve ihtiyacımız olan yeni araçları ve yeni toplumsal normları belirlemek için açık bir tartışmadan daha iyi bir yol düşünemiyoruz. Sizin görüşlerinizi duymak istiyoruz: Substack, AI çağındaki değerli insan yaratıcılığını nasıl destekleyebilir? AI'nın kullanımı ne zaman Claudefishing'dir? Ne zaman iyidir?

AI ne kadar güçlü olursa olsun, insan bakış açısı kültürel temel bir unsurdur ve bu her zaman böyle kalacaktır. Aslında, bu araçların sürekli geliştirilmesini ne kadar beklerseniz, okuduğunuz içeriklerin kaynağını anlamak o kadar önemlidir. Claude'in birçok avantajı var! Ama Claude'in görüşünü istiyorsam, doğrudan Claude'a sorarım.

Yazar: Chris Best, Çeviri: Deep潮 TechFlow, Görsel: Substack, Pangram ile iş birliği içinde geliştirilen AI tespit arayüzü, metnin insan tarafından yazılan ve AI tarafından desteklenen oranını gösterir. Kaynak: Substack