Sentetik insanlar rüya görür mü? Eğer görürlerse, elektrikli koyunlar mı rüya görürler?
Blade Runner filminden ekran görüntüsü
1968 yılında, bilim kurgu filmi "Blade Runner"'ın orijinal romanının yazarı Philip K. Dick, bu soyut ve öncü soruyu bir yazıcıya vururken, yarım asır sonra Silicon Valley'in teknoloji devlerinin ciddi bir şekilde cevap vereceğini düşünmemiş olabilir.
Evet, sadece elektronik koyunlar göremezler, aynı zamanda rüyalarını görselleştirebilirler.
Dün, Anthropic, San Francisco'da düzenlenen geliştirici konferansında, Managed Agents için bellek genişletme, sonuç çıktısı, çoklu ajan işbirliği ve "rüya görme" gibi yeni özellikler duyurdu.
Anthropic'in kendi ifadesine göre, "bellek ve rüya görme, kararlı ve kendini geliştirebilen bir ajan bellek sistemi oluşturur."
Yine rüya, yine hafıza, AI alanına fazla ilgi göstermeyen arkadaşlar büyük büyük soru işaretleriyle başını kaldıracak: İnsanlara ait bu kelimeler, ne zaman AI üzerine bu kadar akıcı bir şekilde uygulanmaya başlandı?
2024'te OpenAI, o1 serisini tanıttığında, "yanıt vermeden önce daha fazla zaman harcayacak şekilde tasarlanmış AI modelleri" ifadesini kullandı; "düşünme" kelimesi o kadar doğal kullanıldı ki, bir istatistiksel olarak bir sonraki token'ı tahmin eden bir programın neden "düşünme" adını aldığını kimse sormadı.
Sırayla, insanların yapabileceği düşünme, hafıza, yansıma ve hayal etme gibi işlemler, tek tek ürün tanıtım etkinliklerine taşınmaktadır.
Hayallerin Filmi "Red Rabbit" Ekran Görüntüleri
“Düşünme” terimi metafor olarak açıklanabilir, “hafıza” da teknik jargonun bir uzantısı olarak kabul edilebilir, ancak “rüya görmek” gerçekten biraz fazla. Binlerce yıldır edebiyat, tarih ve felsefe bu konuları açıklayamadı, ancak AI şirketleri doğrudan şöyle diyor: Sadece düşünen makineler değil, aynı zamanda rüya gören makineler de ürettiğimizi.
Rüya görmek nedir, bu olayı tam olarak tanımlayan başka bir mühendislik terimi yok mu?
Yapay zeka hayal kurmak için de para harcar
Claude Code kod sızıntısında, Anthropic'in "Auto Dreaming" adlı bir özellik hazırladığı tespit edildi. O dönemde, AI'nın da insanlar gibi yeterli dinlenme ve uyku alarak daha dikkatli ve daha akıllı hale gelmesi gerekiyor mu diye düşündük.
Ancak mevcut AI Agent'ın çalışma prensibini anladığınızda,所谓的「rüya görme」nin aslında otomatikleştirilmiş bir çevrimdışı günlük toplu işleme olduğu ortaya çıkar.
AI Agent, şimdi uzun zincirli karmaşık görevleri tamamlamada yetenekli. Örneğin, "Bu beş rakibin en son finansal raporlarını araştırıp tablo haline getirir misiniz?" Bu süreçte, Agent farklı web siteleri arasında geçiş yapmalı, birden fazla belgeyi okumalı, farklı araçları kullanmalı ve hatta anti-web scraping mekanizmalarıyla karşılaşarak yeniden denemeler yapabilir.
Bu uzun ve karmaşık çevrimiçi görevler tamamlandığında, Agent'in arka planında yoğun çalışma günlükleri kalacaktır.
Resim AI tarafından oluşturuldu
Anthropic'ın "rüya görme" özelliği, Aracın boş zamanlarında bu geçmiş kayıtlarını yeniden düzenlemesini sağlar. Bu kayıtlar içinde "her bu pencere karşına çıktığında, sağ üst köşeyi tıklayarak kapatılabilir" gibi kalıpları bulur ve bir sonraki işlem yolunu optimize eder.
「Bellek», çalışırken öğrenilen şeyleri yakalar,而「Rüya», bu bellekleri konuşmalar arasında özümser ve farklı Agent'lar arasında paylaşır.
Açıkçası, bu tarihsel verilere dayalı bir pekiştirmeli öğrenme ve kendi kendini düzeltme mekanizmasıdır.
Rüya tanıtımı: https://platform.claude.com/docs/en/managed-agents/dreams
Bu geliştirici konferansında Managed Agents içindeki Dreams güncellendi, bu arka planda çalışan bir görevdir ve manuel olarak tetiklememiz gerekiyor. Claude, bir seferde en fazla 100 oturumun konuşma geçmişini okuyabilir ve ardından incelememiz için tamamen yeni bir bellek oluşturur.
Claude Code'da daha önce sessizce başlatılan AutoDream, her Agent ile bir tur sohbetten sonra arka planda "hayal kurmalı mı" kontrolünü yapar ve varsayılan olarak 24 saatte bir çalışır.
Benzer bir rüya işlevi, Hermes Agent'da da mevcuttur. Hermes Agent, kendini öğrenme ve gelişme özelliğine sahiptir; geçmiş görevlerden deneyimleri özetleyip hafıza dosyalarına kaydetmeyi destekler.
Curator adlı bir özellik, bu şekilde çıkarılan işlem kılavuzlarını otomatik olarak Beceri haline getirebilir.
Bu Beceriler puanlanacak, tekrar edenler birleştirilecek, uzun süre kullanılmayanlar otomatik olarak arşivlenecek ve hatta aktif, pasif ve arşivlenmiş gibi bir yaşam döngüsüne sahip olacak. Ayrıca önemli Becerileri sabitleyerek sistemin otomatik olarak silmesini önleyebiliriz.
OpenClaw, son birkaç güncellemesinde çapraz sohbet sürekli belleği, zamanlanmış görev planlamayı, alt Agent izolasyonu ve doğrudan Dreaming adı verilen rüya görme işlevini de ekledi.
OpenClaw'un rüya görmesi: https://docs.openclaw.ai/concepts/dreaming
OpenClaw'un rüya mekanizmasında, rüyaların yolculuğu üç aşamaya ayrılır: light, REM, deep. İlk ikisi düzenleme, yansıma ve tema özetlemeyi yürütür; deep ise içeriği doğrudan uzun vadeli hafıza MEMORY.md'ye yazar.
Derin uyku aşamasındaki pekiştirme, uzun vadeli hafızaya yazılıp yazılmamasını belirleyen 6 ağırlıklı sinyal tarafından gerçekleşir. Bu altı sinyal, frekans, ilgililik, sorgu çeşitliliği, güncellik, günler arası tekrar ve kavramsal zenginliktir.
Resim AI tarafından oluşturuldu
Uzun vadeli hafızaya yazılır, iki dosya oluşturulur: biri makine için durum dosyası, memory/.dreams/ klasörüne; diğeri kullanıcıya yönelik okunabilir kayıt, DREAMS.md ve aşamalı olarak oluşturulan raporlara yazılır.
Ayrıca, Dreaming otomatik olarak zamanlanmış şekilde çalışır ve varsayılan olarak her gün sabah 3:00'de light → REM → deep sırasıyla tam bir işlem döngüsünü çalıştırır.
Dream Diary adlı bir belgeyi de sürdürüyor. Sistem, bellek düzenleme sürecini anlatısal bir şekilde kaydeden bir “Rüya Günlüğü” oluşturur; bu, kara kutu veritabanı yerine açıklanabilir ve denetlenebilir olmayı vurgular.
Nörobilimde çok klasik bir anlayış vardır: İnsanların gündüz elde ettiği bilgiler önce geçici depolama sistemine girer; uyku sırasında beyin bu bilgileri yeniden oynatır, pekiştirir ve temizler, önemli olanları tutar, anlamsız olanları atar.
Resim AI tarafından oluşturuldu
Dün işe giderken yol boyunca her arabanın rengini hatırlamayız, ancak şirkete nasıl gideceğimizi hatırlarız.
Bu rüyalar, insanlar gibi gerçekten rüya görüyormuş gibi görünüyor; farklı bir şey ararsak, muhtemelen Claude rüya gördüğünde hâlâ bizim Token'larımızı tüketiyor.
Ancak Anthropic ve OpenClaw, bunu "oturuma dayalı optimizasyon" veya "görev sonrası ince ayar" gibi mühendislik odaklı isimlerle adlandırmadı.
Sonuçta, o karmaşık isimleri doğrudan «rüya» haline getirdiğimizde, artık bir yazılım fonksiyonu değil, «içsel bir yaşamı olan dijital bir varlık» hissiyatı yaşarız.
Yapay zekânın hafızası, küçük bağlamlardır.
"Dream" sözü geçtiğine göre, bunun öncelikli koşulu olan hafıza (Memory) de söz konusudur.
Geçtiğimiz dönemde AI dünyasında en popüler terim, prompt mühendisliğinden bağlam mühendisliğine, beceri mühendisliğine ve harness mühendisliğine dönüştü, ancak değişiklikler ne olursa olsun, şu anda en değerli hâlâ bağlam mühendisliğidir.
Sistem uyarıları, kullanıcı girdileri, kısa vadeli diyaloglar, uzun vadeli bellek, getirilen belgeler, araç ve beceri çağrılarının çıktıları, mevcut kullanıcı durumu; bu katmanların bir araya gelmesi, agent'in gerçekten kullandığı «bağlam»dır.
Agent'in daha fazlasını hatırlaması ve daha faydalı bilgileri kaydetmesi, uzun bir süredir karşılaşılan bir zorluktu.
Manus, geçen yıl Manus'un nasıl kontekst mühendisliğini optimize ettiğini anlatan teknik bir blog yazısı yayınladı. Bu yazıda, KV-Cache önbellek uyum oranını, üretim ortamında AI Agent için en önemli tekil göstergelerden biri olarak tanımladı. Aynı zamanda araç çağrısı düzeyinde, "kaldırma" yerine "gizleme" yapmayı önceliklendirdi ve dosya sistemini nihai kontekst olarak kullandı.
KV Önbelleğini (anahtar-değer önbelleği) anlamak için, büyük modeli sadece bir harf okuyabilen aşırı zorunlu bir hasta gibi hayal edebilirsiniz.
Bir cümleyi işlerken, her oluşturulan Token için bir Key (anahtar) ve bir Value (değer) vektörü hesaplar. Her seferinde baştan hesaplamamak için bu (K, V) anahtar-değer çiftlerini saklar; bu, KV Önbelleği'dir.
KV Önbelleği (anahtar-değer önbelleği), büyük modellerin metin üretirken "alanla zaman kazanmak" için kullandığı temel hızlandırma teknolojisidir. Önbellekleme, modelin bir sonraki kelimeyi tahmin ederken önceki tüm kelimeleri tekrar hesaplamasını engeller. Resim AI tarafından oluşturulmuştur.
Sohbet devam ettikçe KV önbelleği sürekli olarak saklanır. Genel olarak, 128k bağlamı olan büyük modellerle karşılaşıldığında, 70 milyar parametreli bir modelin 128k bağlamı tamamen doldurulduğunda, yalnızca KV önbelleği 64 GB GPU belleğini tek seferde tüketebilir.
Bu, neden çoğu modelin bağlam penceresinin şu anda en fazla milyonlarca seviyesinde olduğunu açıklar.
Dün, 29 milyon dolarlık tohum sermaye fonu alan yeni şirket Subquadratic, X üzerinde daha uzun bağlamı vurgulayan SubQ yeni modelini duyurdu.
SubQ, şu ana kadar tüm büyük modeller arasında en büyük bağlam penceresi olan 12 milyon token desteği sunduğunu iddia ediyor.
Teknik bir makale veya model açıklaması henüz mevcut olmasa da, tanıtım videosunda SubQ'un temel teknoloji yolunun, geleneksel Transformer'ın "yoğun dikkat" yapısından, seyrek dikkatli "alt-kare / doğrusal ölçeklenebilir" mimarisine geçiş olduğunu belirtti. Yeni mimari, bağlam ne kadar uzunsa, hesaplama maliyeti o kadar patlamayı çözmeyi hedefliyor.
Verilen test sonuçları da oldukça agresif: 1 milyon token altında hızda 50 katın üzerinde artış, maliyette 50 katın üzerinde azalma; 12 milyon tokende, ileri düzey modellere kıyasla hesaplama talebi yaklaşık 1000 kat azalıyor.
RULER 128K uzun bağlam benchmark'ında, Subquadratic, SubQ'nun %95 doğruluk oranı ve 8 dolar maliyetle, Claude Opus'un %94 doğruluk oranı ve yaklaşık 2600 dolar maliyetine kıyasla maliyette yaklaşık 300 kat düşüş sağladığını belirtti.
İletişim penceresini genişletin ya da modelin hayal kurmasını sağlayın, kendi kendine bazı şeyleri atsın.
Bu, Anthropic gibi Agent ürünlerinin şimdi Dreaming'i başlatması gereken neden. Bağlam penceresi sınırlı olduğunda, daha akıllı AI'lar sadece daha fazla içerik ekleyerek değil, hedefli şekilde hareket etmek zorunda.
Makinelerin sadece makine olduğunu kabul etmek, hayal ettiğinizden daha zor.
AI'nin rüya görme ve bellek mekanizmalarını anladığımızda, bunun insan aktiviteleriyle olan ilişkisini öğrenebiliriz.
Ancak bu tüm AI şirketlerinin makineler için yarattığı kelimeleri bir araya getirin: OpenAI'nin düşünme (thinking), endüstri genelindeki bellek (memory) ve illüzyon (hallucination), Anthropic'ın bu seferki rüya görme (dreaming) ve Anthropic'ın anayasasındaki erdem ve bilgelik.
Görebiliyoruz ki, AI şirketleri sadece ürün satmakla kalmıyor, aynı zamanda “insan” kavramındaki kelimelerin sahipliğini yeniden dağıtıyorlar. Her kelimeyi ele geçirdikçe, makine ve insan arasındaki sınır biraz daha bulanıklaşıyor.
Dil, beklentileri şekillendirir, beklentiler, toleransı belirler ve tolerans, bize ne kadar şey vereceğimizi karar verir. Bu oldukça uzun bir zincirdir, ancak başlangıcı, etkinlikteki masum kelimelerdir.
Daha gizli bir etki, sorumluluk dağılımıdır. Araçlar, "düşünme", "hafıza", "değerler" gibi özelliklere sahip varlıklar olarak tanımlandığında, sorun yaşandığında doğal olarak bunu bağımsız bir "eylem sahibi" olarak görüp, bu AI'nın "eğitilmesine", "hata ayıklanmasına", "ayarlanmasına" ihtiyaç duyulur.
Ancak gerçekten sorulması gereken, bu programı iş akışımıza entegre eden şirket ve “dreaming” kelimesini yazan ürün ekibi. Kelime değiştirildiğinde, “sanık sandalyesinde” oturan kişi de değişiyor.
Ve "düşünen", "hatırlayan" ve şimdi "rüya gören" bir makineyi izlerken, içinde bir şey olduğunu kendi kendimize inanmaya başlıyoruz. Çünkü bunun sadece bir makine olduğunu kabul etmek, "düşünen bir varlıkla konuşuyorum" hissini ortadan kaldırır ve soğuk, araç ilişkisine geri döner.
Beyaz Günlük Fonksiyon Tanıtımı｜Resimler AI tarafından oluşturulmuştur
Düşlemek, geçmiş içeriği işlemek için düşünüldü, bir sonraki adımda AI şirketi, geleceği simüle etmek için Daydreaming adlı bir ürün çıkaracak.
Tanıtım, beyaz geceler veya dikkat dağınıklığı sayesinde, Agent'in aktif durumda, mevcut projelerle birlikte, gelecekteki olası görevleri hazırlamak için az miktarda boş hesaplama gücüyle keşifsel üretimi gerçekleştirmesidir.
Bu yazı, WeChat hesabı "APPSO" tarafından yayınlanmıştır, yazar: APPOS, yarının ürünlerini keşfeden.