MetaEra: AI 'Hype Summer' Pazarlama ve Davranış Bozukluğunu Maskeleyiyor

ME AI Mesajları: Geçen aylar boyunca AI ile ilgili hava sıcaklık kazandı. Nisan sonunda, Anthropic, modeli Claude Mythos’un yazılım açıklarını tespit etmede çoğu güvenlik uzmanından daha iyi performans gösterdiğini ilan etti. Ardından OpenAI ile Hugging Face arasında bir sızıntı olayı yaşandı; ardından Anthropic (oldukça gururla) ve Meta (az da olsa isteksizce) kendi modelleriyle ilgili benzer olayları açıkladı. Hemen ardından Anthropic, bir modelinin matematiksel bir atılım gerçekleştirdiğini iddia etti; kısa süre sonra OpenAI da kendi matematiksel atılımını ilan etti. En sonunda, Anthropic mühendisi Jacob Coxon, internette popüler oldu, şirketten ayrıldığını duyurdu ve Anthropic ile OpenAI’nin “kendini geliştirebilen süper zekaya doğru ilerlediğini ve hayatlarımızı riske attığını” iddia etti. Bu olayların çoğu, medya tarafından neredeyse bir tutkuyla rapor edildi ve genellikle şirketlerin kendi insanlaştırmacı hikâyelerini tekrarladı — bu hikâyeler, yazılımlarının sadece güçlü değil, aynı zamanda “yapay genel zekaya” yaklaştığını göstermeyi amaçlıyordu. Peki, gerçek ne? Biz, medeniyeti değiştirebilecek kadar büyük teknik atılımlar mı gözlemliyoruz, yoksa bir pazarlama kampanyası mı? Bu tüm olaylarda, şirketlerin büyük çaplı reklam kampanyaları (illegal sızıntı olaylarında ise tövbe niteliğindeki açıklamalarla) yoğun medya örtüsüyle eşlik etti. İlgili alandaki uzmanların durumu incelemeye zaman bulduklarında ise genellikle tamamen farklı bir hikâye ortaya çıkıyor; ancak bu hikâye çok daha az medya ilgisi görüyor. Bu “sızıntı” olayları hakkında, siber güvenlik uzmanları sorunun “modelin kontrolü kaybı” veya “AI ajanlarının medeniyet kurması” gibi iddialardan ziyade, OpenAI’nin temel ve olgun güvenlik uygulamalarını uygulamama hatalarından kaynaklandığını belirtiyor. Matematiksel başarılar konusunda, matematikçiler ilk olarak OpenAI’nin basın açıklamasına “şokla” tepki verdi. Bu açıklama, en son sohbet robotu Astra’nın “en az on yıldır çözülmeyen ve ana sonuçlar açısından hiçbir ilerleme kaydedilmemiş” bir soruyu çözdüğünü iddia ediyordu. Ancak daha sonra bu sonuçların “ilk göründüğü kadar yenilikçi olmadığını” fark ettiler. Bundan sonra matematikçiler, şirketin bilimsel dürüstsüzlük ve alıntı yapma eylemlerini suçladı ve Astra’nın “derin bir zihinsel sıçrama” gerçekleştirmediğini tekrar vurguladı. Sadece birkaç hafta sonra OpenAI, kendi matematiksel atılımını ilan etti. Tam iki gün önce, New York Üniversitesi Courant Enstitüsü Matematik Profesörü Tristan Buckmaster, OpenAI’nin başkalarının araştırmalarını çaldığını ve başarıları yanlış şekilde atfettiğini ima eden çarpıcı bir açıklama yaptı. Yaklaşan tehlikeli süper zekaya dair iddialar, sağlam bilimsel veya mühendislik uygulamalarına dayanmıyor. Bunlar, transhumanizm ve eugeni gibi ideolojilere ve hayal edilen gelecekteki dijital insanlara yönelik hayal kırıklığına dayanıyor. Büyük dil modelleri ve ilgili teknolojilerin neden programlama ve matematik gibi alanlara odaklandığını düşünmek değerli. Bu alanlar, insan zekâsının en üst düzey başarıları olarak sıklıkla görülüyor ve yanıtları sunulduğunda doğrulanabilen sorular içeriyor. İlk özellik, AI reklamcılarının “kendilerinin her şeyi yapabilen makineler ürettiğini” iddia etmesine yardımcı oluyor; ikinci özellik ise matematik ve programlama problemlerinin sistemleri ayarlamak ve optimize etmek için daha kolay hale getirdiği anlamına geliyor — çünkü sistem çıktıları (muhtemel kelime dizileri veya bilgisayar kodu parçaları) doğrudan değerlendirilebiliyor, maliyetli insan değerlendirmelerine gerek kalmadan. Biz bu çağrıya katılmaktayız ve teknoloji şirketlerinin yarattığı hız ve aciliyet illüzyonunun, politika yapıcıları ve kamuoyunu yanıltan bir strateji olduğunu vurguluyoruz. Ne yazık ki bu strateji bazen işe yarıyor; örneğin Bernie Sanders senatörünün “yapay süper zekânın” geliştirilmesini engellemeyi amaçlayan yasa teklifi gibi. Bu ürünleri “süper zeka” veya “kontrolü kaybolmuş modeller” olarak adlandırmak, aslında bu ürünleri üreten şirketlere değil, ürünlere eylem yetkisi veriyor. Bu hikâye hem şirketlerin ürünlerini “insanüstü” olarak pazarlamaya yardımcı oluyor hem de şirketlerin kendi davranışları için sorumluluk almalarını kolaylaştırıyor. OpenAI’nin kötü amaçlı yazılım üretip başka bir şirkete sızması cevap verilmesi gereken bir durumdu; ancak basın açıklamaları, medya, medya figürleri ve yasama organları bunu “kontrolü kaybolmuş bir model” olarak tanımladılar, sanki model kendi başına hareket etmişti. Araştırmacılar sorulmalıydı: Neden şirketleri akademisyenlerin çalışmalarını sistematik olarak alıntı yapıyor veya müşterilerin verilerini izinsiz kullanarak modelleri eğitiyor? Ancak kamuoyunun hayal gücü başka yöne çekildi — hayali süper zeka makinelerinin geleceği hakkında endişelenmeye. AI endüstrisi hatta popüler ve iki partili veri merkezine karşı hareketleri, bu şirketlerin ürettiği yaklaşan korkutucu “transhüman” makinelerin düzenlenmesini unutturmak için “dikkat dağıtmak” amacıyla yapıldığını ima ediyor. AI endüstrisinin görüşüne göre, veri merkezlerinin iklim felaketlerini artırmalarından, yakındaki sakinlerin astım problemlerinden, bunlara devlet tarafından sağlanan sübvansiyonlardan veya soğutma için tahsis edilen su kaynaklarından çok, hayali bir makine tanrısı hakkında endişelenmeliyiz. Biz açıkça biliyoruz ki kararlar pazarlama reklamlarına göre verilemez ve şirketlerin baskısı altında “verimlilik” adına aceleci kararlar verilemez. Hem politika yapıcılar hem de topluluklar için akıllıca kararlar almak, bağımsız uzmanlardan görüş almak ve şirketlerin iddialarını somut bağlamda değerlendirmek için zaman gerektirir. Bu “hava kırıklığı yazının” getirebileceği en iyi sonuç, politika yapıcıların ve kamuoyunun derin bir nefes almayı, şüpheci davranmayı ve bir sonraki benzer hava kırıklığında onun gerçek doğasını tanımayı öğrenmesidir. Timnit Gebru, DAIR’in yürütücü direktörüdür ve yakında yayımlanacak olan “Deep Unlearning: The Radicalization of a Tech Idealist” kitabının yazarıdır. Kitap şu anda ön siparişe açıktır ve 16 Şubat’ta yayımlanacaktır. Emily M. Bender, Washington Üniversitesi dilbilim profesörüdür ve “The AI Con” kitabının ortak yazarıdır. (Kaynak: MLion)