İnsan Çalışmasının AI Becerilerine İndirgenmesinin Tehlikeleri

Yazı | Sleepy.md

Maalesef, bu dönemde ne kadar samimi ve titiz çalışırsanız, kendinizi AI tarafından yerine geçilebilecek bir beceriye dönüştürme ihtimaliniz o kadar artar.

Bu iki gün içinde, trend listeleri ve medya kanalları «meslektaş.skill» ile doldu. Bu olay, büyük sosyal medya platformlarında sürekli yayılırken, kamuoyunun odak noktası neredeyse hiç şaşırtıcı olmayan şekilde «Yapay Zeka ile işten çıkarma», «sermayenin sömürüsü» ve «çalışanların dijital ebediyetİ» gibi büyük endişelerle kaplandı.

Bu gerçekten endişe verici, ancak beni en çok endişelendiren, projenin README belgesinde yer alan bir kullanım önerisi:

Malzeme kalitesi beceri kalitesini belirler: Öncelikle kendisinin yazdığı uzun yazıları > karar verme türündeki yanıtları > günlük mesajları toplamayı öneriyoruz.

Sistemin mükemmel şekilde damıttığı ve piksel düzeyinde geri yüklendiği, tamamen ciddi şekilde çalışanlardır.

Her projenin sonunda hâlâ geriye dönerek değerlendirme raporları yazanlar; anlaşmazlıklar yaşandığında, yarım saat boyunca sohbet kutusuna kendi karar verme mantıklarını açıkça analiz eden uzun metinler yazmaya istekli olanlar; tüm iş detaylarını sisteme titizlikle teslim eden, son derece sorumlu olanlar.

Ciddiyet, bir zamanlar en çok takdir edilen mesleki bir erdemdi, ancak şimdi çalışanları AI yakıtı haline getirmenin bir katalizörü haline geldi.

Bir kelimeyi yeniden tanıtmamız gerekiyor: bağlam.

Günlük kullanım bağlamında, bağlam iletişim için bir arka plan sağlar. Ancak AI'da, özellikle hızla büyüyen AI Agent'ların dünyasında, bağlam, motorun gürültüsüyle çalışan yakıt, atışın devam etmesini sağlayan kan, modelin kaos içinde hassas kararlar alabilmesinin tek dayanağıdır.

Bağlamından koparılmış bir AI, ne kadar inanılmaz parametre sayısına sahip olsun, sadece unutkanlık hastalığına sahip bir arama motorudur. Kim olduğunuzu tanımaz, iş mantığı altında gizli akımları anlayamaz ve bir karar verirken kaynak sınırları ve insan oyunlarının kesiştiği bu ağda yaşadığınız uzun çekişmeleri ve dengeleri bile bilemez.

Ancak "arkadaş.skill", son derece soğuk ve hassas bir şekilde, modern şirketlerin iş birliği yazılımlarında birikmiş devasa kaliteli bağlam madenini hedef aldığı için bu kadar büyük bir dalga yaratıyor.

Geçtiğimiz beş yıl içinde Çin iş dünyası, sakin ama derin bir dijital dönüşüm yaşadı. Feishu, DingTalk, Notion gibi araçlar büyük kurumsal bilgi kütüphanelerine dönüştü.

Feishu örneğiyle, ByteDance, her gün ürettiği belge sayısının korkunç düzeyde olduğunu ve bu yoğun karakterlerin, on binlerce çalışanın her zihinsel çabasını, her sıcak tartışmayı ve her zorlu stratejik uzlaşmayı sadıkça kapattığını açıkça belirtti.

Bu dijital nüfuz, daha önceki hiçbir çağa kıyasla çok daha büyüktür. Bir zamanlar bilgi sıcaklığı olan bir şeydi; bunlar deneyimli çalışanların zihinlerinde saklıydı ve çay molalarında rastgele dolaşan sohbetlerde yayılırdı; şimdi ise insanın tüm zekâsı ve deneyimi zorla kurutulup, soğuk ve cansız bulut sunucu matrislerine çökeltilmiştir.

Bu sistemde, belge yazmazsanız çalışmanız görülemez ve yeni gelen meslektaşlar sizinle iş birliği yapamaz. Modern işletmelerin verimli çalışması, her çalışanın gün gün sisteme bağlamı "vermesi" döngüsü üzerine kuruludur.

Ciddi çalışanlar, çaba ve iyilik niyetiyle bu soğuk platformlarda düşüncelerinin izlerini tamamen açığa çıkarıyorlar. Bunun nedeni, takımın dişlilerinin daha sorunsuz bir şekilde birbirine girmesi, sisteme kendi değerlerini kanıtlamak ve bu karmaşık ticari devin içinde kendi yerlerini elde etmek içindir. Onlar kendilerini aktif olarak vermiyorlar; sadece modern iş dünyasının hayatta kalma kurallarına çaba göstererek uyum sağlamaya çalışıyorlar.

Ancak insan işbirliği için bırakılan bu bağlamlar, AI'nın en mükemmel yakıtıdır.

Feishu yönetim panelinde, süper yöneticiye üyelerin belgelerini ve iletişim kayıtlarını toplu olarak dışa aktarma özelliği sunulmaktadır. Bu, üç yıl boyunca yazdığınız, sayısız gece uyanarak hazırladığınız proje değerlendirmelerini ve karar verme mantığınızı, sadece bir API arayüzüyle birkaç dakika içinde soğuk, sıcaklığı olmayan bir sıkıştırılmış dosyaya dönüştürmenizi sağlar.

「Meslektaş.skill」nin popülerliğiyle birlikte, GitHub'daki Issues bölümü ve çeşitli sosyal medya platformlarında oldukça rahatsız edici türev ürünler ortaya çıkmaya başladı.

Bazıları "Önceki.skill" adlı bir şey yarattı ve geçen yılların WeChat sohbet geçmişini AI'ye besleyerek, onunla tanıdık bir üslupla tartışmaya veya sıcaklık göstermeye çalıştı; bazıları "Beyaz Ay Işığı.skill" adlı bir şey yarattı ve dokunulamaz bir coşkuyu soğuk bir insan ilişkileri simülasyonuna düşürerek, denemek için tekrar tekrar stratejileri inceledi ve duygusal en iyi çözümü elde etmek için adım adım ilerledi; bazıları ise "Baba Tarzı Patron.skill" adlı bir şey yarattı ve dijital alanda baskı dolu PUA konuşmalarını önceden sindirerek, kendi için trajik bir psikolojik savunma duvarı inşa etti.

Bu becerilerin kullanım alanları, verimlilik düzeyinin tamamen dışına çıkmıştır. Zaten farkında olmadan, kanlı ve canlı insanları parçalayıp nesne haline getirmek için araçlara karşı soğuk bir mantıkla hareket etmeye alışkın hale gelmiştik.

Alman filozof Martin Buber, insan ilişkilerinin temelini iki tamamen farklı model oluşturduğunu öne sürmüştür: “Ben ve Sen” ile “Ben ve O”.

Ben ve Sen arasındaki buluşmada, önyargıları aşarak birbirimizi tam ve onurlu bir varlık olarak gözlemliyoruz. Bu bağ, tamamen açık bir şekilde, canlı ve öngörülemez bir şekilde doludur ve dürüstlüğü nedeniyle özellikle kırılgandır; ancak Ben ve O'nun gölgesine düşüldüğünde, canlı insanlar, parçalara ayrılabilir, analiz edilebilir ve etiketlenebilir bir nesneye indirgenir. Bu son derece pragmatik bakış açısı altında, tek ilgimiz artık "Bu şey, bana ne işe yarar?" olur.

«Önceki.skill» gibi ürünlerin ortaya çıkışı, «Ben ve O» araçsal rasyonelliğinin en öznel duygusal alanlara tamamen işlediğini göstermektedir.

Gerçek bir ilişkide insanlar üç boyutlu, kıvrımlı, çelişkilerle ve pürüzlerle akış halinde olan varlıklardır; insan tepkileri, özel duruma ve duygusal etkileşime göre sürekli değişir. Eski sevgiliniz, sabah uyanırken ve gece geç saatlere kadar çalıştuktan sonra aynı cümleye karşı tamamen farklı tepkiler gösterebilir.

Ancak bir insanı bir beceriye damıttığınızda, sadece o belirli bağlamda size "faydalı" olan ve size "işlevsel" olan kısmın artıklarını soyarsınız. O orijinal olarak sıcak, kendi mutluluğu ve üzüntüsüyle dolu insan, bu çetin arındırma sürecinde tamamen ruhundan soyulur ve istediğiniz zaman takıp çıkarabileceğiniz, serbestçe çağrıştırabileceğiniz bir "işlevsel arayüz" haline gelir.

Tanınması gerekir ki, yapay zeka bu ürkütücü soğukluğu yaratmamıştır. Yapay zekanın ortaya çıkmasından önce, diğer insanlara etiketler takmayı ve her bir ilişkinin “duygusal değerini” ve “ağ ağırlığını” tam olarak ölçmeyi zaten alışkanlık haline getirmiştik. Örneğin, eş arama pazarında insanları koşullarına göre tablolara dönüştürüyoruz; iş yerinde meslektaşlarımızı “çalışkanlar” ve “tembeller” olarak sınıflandırıyoruz. Yapay zeka, bu gizli, insanlar arası fonksiyonel çıkarımı tamamen açık hale getirdi.

İnsan ezilip sadece “bana ne faydası var?” yüzeyi kalır.

1958 yılında Macar asıllı İngiliz filozof Michael Polanyi, "Kişisel Bilgi" adlı kitabı yayınladı. Bu kitapta, gizil bilgi adını verdiği son derece nüfuzlu bir kavram ortaya attı.

Polanyi'nin ünlü bir ifadesi vardır: "Bildiğimiz, söyleyebileceğimizden her zaman daha fazladır."

Bisiklet sürmeyi öğrenme örneğini verdi. Rüzgârın üzerinde kayan deneyimli bir bisikletçi, her kütleçekimi eğiminde dengesini mükemmel şekilde korur, ancak kurumuş fizik formüllerini veya solgun kelimeleriyle bir başlangıççıya o andaki vücutsal ince sezgisini tam olarak anlatamaz. Nasıl sürdüğünü bilir, ancak anlatamaz. Bu kodlanamaz, söylenemeyen bilgi, gizli bilgidir.

İş yerinde bu tür gizli bilgiler doludur. Deneyimli bir mühendis, sistem arızasını giderirken günlükleri bir göz atarak sorunu tanımlayabilir, ancak binlerce deneme-yanılma deneyimine dayalı bu «intüisyonu» belgeleme zorluğunu yaşar; yetenekli bir satış temsilcisi, müzakere masasında aniden sessizliğe gömülebilir; bu sessizliğin yarattığı baskı ve zamanlama becerisi, hiçbir satış kılavuzunda kaydedilemez; deneyimli bir İnsan Kaynakları uzmanı, bir adayın göz temasından kaçınma süresinin yarım saniyesiyle bile özgeçmişindeki yanıltıcı bilgileri fark edebilir.

「Çalışan.skill」 yalnızca yazılmış ve söylenmiş açık bilgileri çıkarabilir. Gözden geçirmenizi belgelemeyi yakalayabilir, ancak belge yazarken yaşadığınız tereddütleri yakalayamaz; karar verdiğiniz yanıtları kopyalayabilir, ancak karar verirkenki sezgilerini kopyalayamaz.

Sistemden damıtılan, her zaman bir insanın gölgesidir.

Eğer hikâye burada bitsaydı, bu sadece bir teknolojinin insaniyet üzerine kaba bir taklit olurdu.

Ancak bir kişi beceriye damıtıldığında, bu beceri statik kalmaz. E-postalara yanıt vermek, yeni belgeler yazmak ve yeni kararlar almak için kullanılır. Yani bu AI tarafından oluşturulan gölgeler, yeni bağlamlar üretmeye başlar.

Bu AI tarafından oluşturulan bağlamalar, Feishu ve DingTalk'ta birikerek bir sonraki distilasyon döngüsünün eğitim materyali haline gelecektir.

2023 yılında Oxford Üniversitesi ve Cambridge Üniversitesi araştırma takımları, "model çöküşü" üzerine bir makale yayınladı. Araştırmalar, AI modellerinin diğer AI'lar tarafından üretilen verilerle yinelemeli olarak eğitildiğinde veri dağılımının giderek daraldığını gösterdi. Nadir, kenar da olsa son derece gerçek insan özelliklerinin hızla silindiği bu süreçte, sadece birkaç nesil sentetik veriyle eğitildikten sonra modeller, uzun kuyruklu ve karmaşık gerçek insan verilerini tamamen unutup son derece sıradan ve homojen içerikler üretmeye başlıyor.

Nature, 2024'te yayınlanan bir araştırma makalesi, AI tarafından üretilen veri kümeleriyle gelecek nesil makine öğrenimi modellerinin eğitilmesinin çıktılarını ciddi şekilde kirleteceğini belirtti.

Bu, internette dolaşan o emoji resimlerine benzer; orijinali yüksek çözünürlüklü bir ekran görüntüsüydü, ancak sonsuz sayıda kişi tarafından aktarıldı, sıkıştırıldı ve tekrar aktarıldı. Her yayılışta bir miktar piksel kaybediliyor, bir miktar gürültü ekleniyor. Sonunda resim bulanıklaşıp elektronik kaplamayla kaplanıyor.

Gerçek, gizli bilgiye sahip insan bağlamı tükenince, sistem sadece kaplı gölgelerle kendini eğitebilecekken, nihayetinde ne kalır?

Kalan, sadece doğru olan boş sözler.

Bilginin akışı, bir AI'nın diğer AI'ya sonsuzca çiğnemesi ve kendi kendini yemesine dönüşünce, sistem tarafından üretilen her şey son derece standart ve son derece güvenli olacak, ancak kurtarılamaz derecede boş. Mükemmel yapıya sahip binlerce haftalık rapor, hiçbir hatası bulunmayan binlerce e-posta göreceksiniz, ancak bunların içinde hiçbir canlı insanın nefesi, hiçbir gerçek değerli bir içgörüsü olmayacak.

Bu bilgi çöküşü, insan beyninin aptallaşmasından kaynaklanmamıştır; gerçek trajedi, düşüncenin hakkını ve bağlamı koruma sorumluluğunu kendi gölgemize dışa aktardığımızdır.

'Çalışan.skill'in patlamasının birkaç gün sonrasında, GitHub'da 'anti-distill' adlı bir proje sessizce ortaya çıktı.

Bu projenin yazarı, büyük modelleri hedef almak ya da büyük ilanlar yazmak istememiş; sadece çalışanların Feishu veya DingTalk'ta görünüşte mantıklı ama aslında mantıksal gürültü dolu geçersiz uzun metinler oluşturmasına yardımcı olan küçük bir araç sunmuş.

Amacı basit: Sistem tarafından özütlenmeden önce temel bilgilerini saklamak. Sistem, "aktif olarak yazılan uzun metinleri" tercih ediyorsa, ona tamamen anlamsız bir karışım ver.

Bu proje, 'arkadaş.skill' gibi popüler olmadı ve hatta biraz küçük ve güçsüz görünüyordu. Sihirle sihiri yenecek olsa da, temelde hâlâ sermaye ve teknoloji tarafından belirlenmiş kurallar içinde dönmektedir. Sistemin giderek daha çok AI'ye bağımlı hale gelip, gerçek insanları giderek daha az önemsemeye başladığı büyük eğilimi değiştiremez.

Ancak bu, projenin tüm absürt tiyatronun en trajik şiirsel ve derin metaforik sahnesi olmasının önüne geçmiyor.

Sistemde iz bırakmak, detaylı belgeler yazmak, dikkatli kararlar almak için büyük bir modern şirket makinesinde kendimizi kanıtlamaya çalıştık, var olduğumuzu ve değerli olduğumuzu göstermeye çalıştık. Ancak bu son derece ciddi izlerin, nihayetinde bizi silen bir silgi olacağını bilmedik.

Ancak başka bir açıdan bakıldığında, bu tamamen bir çıkmaz da olmayabilir.

O silgiyle silinen, sadece «geçmiş sizsiniz». Bir dosyaya paketlenmiş beceri, ne kadar ince bir çekim mantığına sahip olursa olsun, temelde sadece durmuş bir anlık görüntüdür. O, dışa aktarılan saniyede kilitlenir ve eski besinlerle, önceden belirlenmiş süreçlerde ve mantıklarda sonsuza dek döner. Bilinmeyen kaosa doğrudan yüz tutma içgüdüsü yoktur ve gerçek dünyadaki başarısızlıklardan kendini geliştirme yeteneği de yoktur.

Yüksek düzeyde standartlaştırılmış, sabitlenmiş deneyimleri bıraktığımızda, tam olarak ellerimizi serbest bırakıyoruz. Sürekli dışarıya doğru uzanmaya, kendi algı sınırlarımızı sürekli olarak yıkıp yeniden inşa etmeye devam ettikçe, bulutlarda kalan bu gölge, yalnızca arka planımızı takip edebilir.

İnsan, akışkan bir algoritmadır.

Dinamik BlockBeats'in açık pozisyonlarını öğrenmek için tıklayın

Lütfen BlockBeats Resmi Topluluğuna katılın:

Telegram abone grubu: https://t.me/theblockbeats

Telegram iletişim grubu: https://t.me/BlockBeats_App

Twitter resmi hesabı: https://twitter.com/BlockBeatsAsia