Yazar: Chris Best
Derin Akış TechFlow
Derin Akış Özet: Sosyal medyadaki içeriklerin %40'ı zaten AI tarafından oluşturulmuş durumda, ancak okuyucular genellikle bunun farkında değil. Substack, bu "Claudefishing" (insan yazımı taklit) uygulamasının, okuyucular ile yazarlar arasındaki güveni zedelediğini ve içerik üreticilerinin geçimini tehdit ettiğini düşünüyor. Yanıt stratejileri: Platformun sizin yerinize karar vermesi yerine, okuyucuların kendi kararını vermesini sağlamak.
Gerçekliği ayırt edilmesi zor olan internet
İnternetteki gerçek içerikleri ayırt etmek artık daha zorlaşıyor.
Bu sorun Substack'te nispeten hafif kalacak ve böyle kalmasını istiyoruz. İlk adım olarak, bugün Substack uygulamasında Pangram ile birlikte bir özellik tanıttık. Gelecekte, metinleri tarayarak bunların ne kadarının el yazısı olduğunu, ne kadarının AI destekli olduğunu görebileceksiniz. Daha sonra detaylı olarak açıklayacağım, ancak önce bunun neden önemli olduğunu açıklayayım.
Su var ama içilecek bir damla yok.
Pangram'ın tahminlerine göre, bazı platformlarda AI tarafından oluşturulan metinlerin oranı artıyor ve %40'a kadar çıkıyor. Bu büyük bir değişim. Birçok kişi, akışlarının ruhsuz çöplere dolu olduğunu şikayet ediyor. Bazıları ise okudukları şeyin kimse tarafından yazılmadığını fark etmiyor.
Temel sorun insanların AI kullanması değil, AI çıktısının kalitesi değil. Tüm AI ile üretilen içerikler çöp değildir ve tüm çöpler AI ile üretilmemiştir. Sorun, okuyucunun beklentileri ile gerçeklik arasında uyumsuzluk olduğunda, özellikle bilinçsizce arkasında hiçbir insan düşüncesi olmayan içeriklere odaklandıklarında ortaya çıkar. İşte Claudefishing.
Freddie deBoer şöyle diyor:
İnsan tarafından yaratılmış sanata olan ilgim, arkasında birinin olduğunu bilmemden kaynaklanır; tam olarak aradığım şey budur — başkaları, sanat aracılığıyla kendi içlerinde gizli tuttuklarını bana gösterirler. Bu süreçte beni aldatmak, sadece bir hile olur.
Substack'ta bu sorunu önemsiyoruz, çünkü işimizin çekirdeğini oluşturan kültüre ekonomik bir motor kurmakla ilgilidir. Bu, düşünen, hisseden, gözlemleyen, tartışan, deneyen, değerlendiren, çabalayan, tavsiye veren ve ilgilenen gerçek insanların, inandıkları çalışmalardan para kazanmalarına yardımcı olmak anlamına gelir. Bu ağ, insanlar arasındaki güvence üzerine kuruludur; bu da onun işe yaramasının nedenidir.
İnsanlara ait olmalı olan internetin bir kısmını insan üretimi olmayan içerikler işgal ettiğinde, kamu alanını kirletir ve insan seslerinin bulunmasını ve duyulmasını zorlaştırır. Okuyucuların okudukları şeyin gerçek olup olmadığını sorgulamaya başlaması, yazar kimliğine olan güveni zedeler ve düşünürlü bir şekilde AI araçlarını kullanan, inandıkları eserleri yaratmak isteyen yazarların geçimini tehdit eder. Sahte içeriklere ödül veren platformlar, yarışmanın altına inme eğilimine yol açar.
Ne yapıyoruz
Bu yeni bir alan, tüm cevapları sahip olduğumuzu söyleyemeyiz. Ancak bildiğimiz bir şey var: Substack uygulamanızın LinkedIn'e dönüşmesini beklemek istemiyoruz. Bu yüzden ilk olarak, şeffaflığı artırmayı ve sizden geri bildirim almayı amaçlayan bazı yeni araçlar sunduk.
Öncü AI tespit aracı Pangram ile iş birliği yapıyoruz. Notlar, yanıtlar, yorumlar ve gönderileri tarayarak, metnin ne kadarının el yazısı olduğunu veya AI destekli olarak oluşturulduğunu tahmin edebileceksiniz. Bu, bugün itibarıyla yayınlanan 100 kelimedan fazla metinler için geçerli olacak ve analiz sonuçları yalnızca görüntülemek isteyenlere gösterilecektir.
Resim: Substack, Pangram ile birlikte geliştirilen AI tespit arayüzü, metnin insan tarafından yazılan ve AI tarafından desteklenen oranını gösterir. Kaynak: Substack
Lütfen unutmayın ki Pangram, metnin AI tarafından oluşturulup oluşturulmadığını tespit edebilir, ancak insan emeğinin ne kadar harcandığını veya AI araçlarının kaynak olarak kullanılıp kullanılmadığını tespit edemez. Pangram mükemmel değildir, ancak bağımsız araştırmalar, AI tarafından üretilen metinleri yüksek bir doğrulukla tespit edebildiğini göstermektedir. İnsanların, kendi kararlarını verirken bu tür araçları kullanmalarının faydalı olduğuna inanıyoruz.
Ayrıca, "Bu eseri nasıl oluşturduğumu" açıklamasını eklemeyi sağlayan yaratıcılar için araçlar sunduk; burada sürecinizi açıklayabilir ve okuyuculara beklentilerinizi belirtebilirsiniz. Taslaklarınızı yayınlamadan önce Pangram ile çalıştırabilir veya kendi eserlerinizle ilgili yanlış olduğunu düşündüğünüz herhangi bir tarama sonucunu rapor edip silebilirsiniz.
Bu özellikler şimdi web ve iOS'ta kullanılabilir hale geldi ve yakında Android'de de yayınlanacaktır. Bu sadece bir başlangıç. Geri bildirimlere ve ilgiye göre şu araçları düşünüyoruz:
Kendi topluluğunuz için AI içeriği tercihlerini ayarlayın
Yaratıcıların, insan yazımı ya da dikkatli bir şekilde kullanılan AI üzerinden sundukları bireysel değeri daha fazla şekilde ifade etmelerini sağlayın.
Okuyucuların, onlara önerilecek içeriklerle ilgili tercihlerini ayarlamalarını sağlayın.
AI'nin bu sorunları hızlandırmasıyla birlikte, spam, botlar ve çeşitli dolandırıcılıklara karşı sistemimizi sürekli geliştirmeye devam ediyoruz.
Yapay zekâyı işlerde yardımcı araç olarak kullanmaya karşı değiliz; insanların kendi ifadelerini sunmak için hangi araçları kullanacaklarını serbestçe seçmeleri gerektiğini düşünüyoruz. Platformda bazıları insan yazımını maksimize edenler, bazıları ise yapay zekâ araçlarını öncü düzeyde keşfediyor ve destekledikleri eserleri oluştururken detaylara odaklanıyor. Substack'te yapay zekâyı yazılım yazmak, araştırma yapmak ve kesitler, çeviri gibi ürün fonksiyonları oluşturmak için her zaman kullandık.
Ancak insanlar ne aldıklarını bilmelidir. Örneğin, birinin araştırmalarını sunmak için AI'ye büyük ölçüde dayandığı keskin analizini okumak sizin için sorun olmayabilir, ancak yalnızca insan tarafından yazılmış yanıtlarla etkileşim kurmak isteyebilirsiniz. Her iki durumda da size seçim hakkı verilmelidir.
Ne görmek istersiniz?
Bu garip yeni dünyaya hep birlikte giriyoruz ve ihtiyacımız olan yeni araçları ve yeni toplumsal normları belirlemenin daha iyi bir yolu düşünemiyoruz. Sizin görüşlerinizi duymak istiyoruz: Substack, AI çağındaki değerli insan yaratıcılığını nasıl destekleyebilir? AI'nın kullanımı ne zaman Claudefishing'dir? Ne zaman iyidir?
AI ne kadar güçlü olursa olsun, insan bakış açısı kültürel temel bir unsurdur ve bu her zaman böyle kalacaktır. Aslında, bu araçların sürekli iyileşmesini ne kadar beklerseniz, okuduğunuz içeriklerin kaynağını anlamak o kadar önemlidir. Claude'in birçok avantajı var! Ama Claude'in görüşünü istedikçe doğrudan Claude'e sorarım.