Yapay Zeka Ajanları, Doğrulanmış, Kullanıcı Tarafından Oluşturulan Sistemlerle Geleneksel Uygulamaları Değiştirebilir

Yapay zeka ajanları, yabancılar tarafından yazılan kodları çalıştırmayı, sonraki nesillerin işlemesi zorlanacağı davranışlardan biri haline getirebilir.

Toplum, onlarca yıl boyunca bir riski normal hale getirebilir, daha sonra daha güvenli bir varsayılan mevcut olduğunda bunu dikkatsiz olarak yeniden sınıflandırabilir.

Sürücülükten önce içki içmek, kemer takmadan sürmek, kapalı alanlarda sigara içmek ve internetten rastgele ikili dosyalar yüklemek, hepsi aynı tarihsel algı eksiklikleri ailesine aittir. Ortak özellik, toplumsal izindir.

Alternatif maliyetli, uygun olmayan veya teknik olarak mevcut olmadığında bu davranış devam eder. Daha güvenli yol ucuz ve rutin hale geldiğinde, eski yol irasyonel görünmeye başlar.

Modern yazılımlar hemen hemen asla incelenmeyen bir anlaşma üzerine çalışır. Bir geliştirici, şirket, vakıf veya anonim bakıcı kod yazar. Bir dağıtım kanalı bunu paketler. Bir kullanıcı, kurum veya işletim sistemi onu çalıştırır.

Güvenlik, o kararın sonuçlarını yönetmeye yönelik katmanlı bir çaba haline gelir.

İzinler, kod imzalama, uygulama mağazaları, uç nokta tespiti, kumlu ortam, tedarikçi due diligence ve olay yanıtı, temel eylemin hâlâ tehlikeli kalması nedeniyle mevcuttur: başka birinin talimatlarını makinenizde, hesabınızda ve verilerinize erişimle yürütme.

Bu güven modeli kurumsal ölçekte başarısız oldu. SolarWinds ihlali, güvenilen bir yazılım derleme sürecine yerleştirilen zararlı kodun normal güncellemeler aracılığıyla hükümet kurumlarına, teknoloji firmalarına, telekom ağlarına ve çok sayıda bölgedeki diğer hedeflere nasıl dağıtılabileceğini gösterdi.

İşletme dersi yapısalydı ve saldırı yüzeyi, tedarikçinin meşruiyetiydi.

İnşaat süreci ihlal edildiğinde, güvenin normal işaretleri saldırı için teslimat altyapısı haline geldi.

Aynı desen, XZ Utils arka kapısı'nda ortaya çıktı; CISA, Mart 2024'te Linux dağıtımlarında bulunan bir sıkıştırma kütüphanesinin 5.6.0 ve 5.6.1 sürümlerine zararlı kodun gömüldüğünü bildirdi.

National Vulnerability Database, daha sonra gizli bir test dosyası ve derleme süreci manipülasyonunun, bağlantılı yazılımlarda veri etkileşimlerini yakalama ve değiştirme yeteneğine sahip bir modifiye edilmiş liblzma kütüphanesi ürettiğini açıkladı.

Bir yazılım tedarik zinciri, kullanıcıdan çok daha önceden tehlikeye uğrayabilir ve rutin gibi görünen kanallar aracılığıyla ulaşabilir. Bunu crypto da sayısız kez DNS ve JavaScript npm istismarları ile gördük.

Endüstri, daha güçlü bir süreç eklemeye yanıt vermiştir. NIST Güvenli Yazılım Geliştirme Çerçevesi, organizasyonlara riski azaltılmış bir şekilde yazılım oluşturmak ve edinmek için ortak bir uygulama seti sunar.

SLSA çerçevesi, kökeni, bütünlüğü ve manipülasyona karşı direnci varlık hattına dahil eder. Bu kontroller gereklidır.

Ayrıca mevcut modelin sınırını da ortaya koyarlar. Kurumlar, hangi harici kodun güvene değer olduğuna karar vermek için yöntemleri sürekli geliştiriyorlar.

Sonraki model, tümüyle güvene ihtiyaç duyulan dış kod miktarını azaltır.

Bu değişim, yazılımın sosyal anlamını değiştiriyor. Bugün, üçüncü taraf kodu, güvenlik maliyetiyle birlikte bir verimlilik varlığı olarak görülüyor.

Yarın, gerekçelendirilmesi gereken bir yük olarak değerlendirilebilir. Varsayılan kullanıcı sorusu, “Hangi uygulamayı yüklemeliyim?” dan “Ajanım fonksiyonu benim için oluşturabiliyorken, neden başkasının uygulamasını çalıştırmalıyım?” haline gelir.

Bu gerçek bir kırılma çizgisidir. Yazılım, bir piyasadan seçilen bir ürün olarak değil, kullanıcı tarafından kontrol edilen bir yürütme ortamında talep üzerine üretilen bir çıktı haline gelir.

Seyahat yönü kodlama ajanlarında görünür. OpenAI Codex, paralel olarak birden fazla görev üzerinde çalışabilen bir bulut tabanlı yazılım mühendisliği ajanı olarak tanıtıldı.

Claude Code, Anthropic tarafından geliştirilen bir kod tabanını haritalandıran, dosyaları değiştiren, testleri çalıştıran ve taahhüt edilmiş kodu sunan bir ajan kodlama sistemidir.

GitHub’ın Copilot kodlama aracısı, sorunlar ve çekme istekleri boyunca eşzamanlı olmayan çalışma ile aynı deseni GitHub iş akışına taşıdı.

Google Jules benzer bir yön sunar: ürün bağlamını algılayan, çözümler üreten ve çekme istekleri gönderen otonom kodlama aracısı.

Bu ürünler hâlâ geliştirici araçları olarak tanımlanıyor. Bu tanımlama zamanla daralacaktır. Codex için bu zaten gerçekleşti. OpenAI, geçen ay kod ve terminaller yerine 'sohbetler' ve çıktılar üzerine odaklanan bir kullanıcı arayüzü seçeneği sundu.

Daha büyük değişim, yazılım oluşturma işleminin bireysel bir delegasyon eylemi haline gelmesidir. Kullanıcı bir iş akışını tanımlar. Ajan, arayüzü, mantığı, entegrasyonları, testleri ve yürütme yolunu oluşturur.

Artefakt bir saat, bir hafta veya bir yıl sürebilir. Yeni bir bağlam için yeniden üretilebilir, çoğaltılabilir, sınırlanabilir, denetlenebilir, atılabilir veya yeniden inşa edilebilir.

Uygulama, kalıcı bir nesne yerine kullanışlı bir arayüze derlenmiş yerel bir politika haline gelir.

Bu, güven üzerinde hemen etkiler yaratır. Bir kullanıcı, diğer kişilerin uygulamalarını gözlemlemeye devam edebilir. İş akışlarını, arayüz desenlerini, veri şemalarını, talimatları, otomasyonları ve hizmet entegrasyonlarını inceleyebilir. Ancak gözlem, yürütmeden ayrı kalabilir.

Kullanıcı fikri kopyalayabilir, ardından kendi kurallarıyla yönetilen bir ortamda bir kişisel ajanı bu fonksiyonu ilk prensiplerden yeniden inşa etmeye yönlendirebilir. Değer, derlenmiş varlıktan desene geçer.

Dağıtım, yürütülebilir kod göndermekten ziyade niyeti, tasarımı, kanıtları, şemaları ve API beklentilerini yayınlamaya daha çok odaklanır.

Kripto, markalaşma yerine doğrulama yoluyla argümana girer. Kullanıcının ajanı hala dış hizmetlere bağlanacaktır.

Ödeme sistemlerini, kimlik sistemlerini, pazar verisi uç noktalarını, depolama katmanlarını, AI model sağlayıcılarını, hesaplama piyasalarını, mesajlaşma sistemlerini ve uyumluluk hizmetlerini çağırabilir. Güven sınırı bu uç noktalara ve onlarla ilgili yapılan iddialara kayar.

Kullanıcılar, dış hizmetleri denetlenebilirlik, köken, güvenlik durumu ve ekonomik uyum açısından sıralama yöntemlerine ihtiyaç duyacaktır. Doğrulanabilir bir ortamda oluşturulan bir hizmet, bir kurumsal platform tarafından kontrol edilen bir siyah kutu uç noktası gibi farklı şekilde puanlanacaktır.

Sıfır bilgi sistemleri, bu sıralama katmanına girmek için bir yol sunar. ZK rollups, hesaplamanın çevrimdışı yürütülmesini ve sonuç durum geçişinin geçerliliğinin zincir üzerinde kısa bir kanıtla doğrulanmasını gösterir.

Aynı kavramsal desen, işlem ölçeklendirmesinin ötesine de uzanabilir. Kullanıcılar, bir uç noktanın onaylanmış kodu çalıştırdığını, tanımlı sınırlar altında veri işlediğini, gizlilik sınırlarını koruduğunu veya belirli bir denetlenen derlemeden bir sonuç ürettiğini kanıtlamak isteyebilir.

Kanıt, kişisel bir ajan ile dış bir bağımlılık arasındaki güvenirlik boşluğunu daraltırken dahili gizliliği koruyabilir.

Uzun vadeli arayüz, bir ajant tarafından kontrol edilen bir işletim katmanına benzer olabilir. Kullanıcı, bir panoyu, bir portföy aracını, bir araştırma asistanını, bir yayın sistemini, bir kişisel CRM'yi, bir muhasebe iş akışını veya bir güvenlik izleyicisini istiyor.

Ajan, oluşturulan kod ve sıralı uç noktalardan bunu birleştirir. Kod, ajan tarafından oluşturulduğu için incelenebilir.

Bağımlılıklar, temsilcinin politika altında bunları seçmesi nedeniyle sınırlıdır. Çalışma ortamı, kullanıcının bunu bir gereklilik olarak seçmesi nedeniyle denetlenebilirdir.

Kullanıcı hâlâ ağla bağlantılı bir ekonomide yer alıyor. Kontrol bireye daha da yaklaşıyor.

Bu geçişin son noktası, doğrulanabilir işlevler, ajan tarafından oluşturulan istemciler ve sıralı harici hizmetler için bir pazardır. Üçüncü taraf geliştiriciler hâlâ mevcuttur, ancak rolleri değişir.

Protokoller, API'ler, şablonlar, kanıtlar, modeller, bileşenler ve referans uygulamaları yayınlarlar. Kullanıcılar kendi sürümlerini çalıştırır.

Kuruluşlar hâlâ var, ancak avantajları dağıtım üzerindeki kontrolden güvenilirliği kanıtlamaya kayıyor. Açık kaynak toplulukları hâlâ var, ancak yük, kullanıcıların bakıcıları güvenmeye zorlamaktan, ajanlara güvenle yeniden inşa etmek için yeterli yapılandırılmış materyal sağlamaya doğru kayıyor.

Eski yazılım ekonomisi tamamlanmış uygulamalar satıyordu. Yeni olan, inandırıcı yetenekler satıyor.

Bir portföy izleyici, piyasa verisi uç noktaları, cüzdan izinleri, vergi mantığı ve raporlama kuralları üzerinde oluşturulan bir arayüzdür. Bir yayın sistemi, kimlik, düzenleme, içerik yönetimi, analitik ve dağıtım API'leri üzerinde oluşturulan bir iş akışına dönüşür.

Bir araştırma terminali, veritabanlarından, model çağrılarından, köken denetimlerinden ve özel notlardan oluşan bir yüzey haline gelir. Her durumda, kullanıcının ajanı bileşimi yönetir.

Dış dünya doğrulanabilir kaynaklar sağlar. Bu değişim, her altyapı sağlayıcısı için ticari bir test oluşturur: iddiayı kanıtlayın, arayüzü yayınlayın, kısıt kümesini ortaya koyun ve kullanıcı tarafı ajanlar hizmetin dahil edilmesi değerli olup olmadığını karar versin.

Geleneksel tartışma, geleceği yerel ile bulut arasında karşılaştırır. Bu ayrım, altyapı sorusunun bir kısmını yakalar, ancak siyasi ekonomiyi kaçırmaktadır.

Özel bir sistem, kullanıcı tarafından tanımlanan sınırlamalar altında bulut hesaplama kullanabilir. Kurumsal bir sistem, kimlik, teşvikler, izinler ve gelir elde etme işlevlerini bir tedarikçi tarafından kontrol edilen bir yığın içinde tutarak yerel olarak çalışabilir.

Daha kalıcı ayrım, özel ile kurumsal arasındadır. Uygulamayı kim tanımlar?

Neye erişebileceğini kim karar veriyor? Telemetriyi kim alıyor?

Yükseltme yolu kim tarafından belirlenir? Fonksiyonu kim iptal edebilir?

Kullanıcının bağımlılığından kim kazanır?

Bu ayrım, ajans yazılımları sıradan kullanıcılar için yeterince ucuzlaştıkça daha belirgin hale gelecek. Bir yol, kişisel yazılım egemenliğine doğru gidiyor.

Kullanıcılar, ihtiyaç duydukları araçları oluşturan ve yeniden oluşturan ajanları yönetir. Uç nokta sağlayıcılarını, doğrulamalara, maliyete, güvenilirliğe, gizliliğe ve uyuma göre seçer.

Arayüzü bırakabilirler, ancak temel iş akışını koruyabilirler. Bir uç noktadan başka bir uç noktaya geçiş yapabilirler.

Eski bir istemci tehlikeye girdiğinde, ele geçirildiğinde veya verimsiz hale geldiğinde yeni bir istemci oluşturabilirler. Yazılım katmanı, kullanıcı niyetini sahiplendiği için taşınabilir hale gelir ve ajan uygulamayı yeniden üretebilir.

Diğer yol, yönetilen kolaylığa doğru gider. Kurumsal platformlar, desteklenen uygulamalar, entegre kimlik, krediler, ödemeler, depolama, AI erişimi ve varsayılan iş akışları sunacaktır.

Bunların bazıları faydalı olacak. Bazıları ekonomik zorlama olacak.

Eğer AI tabanlı boluluk, kamu veya özel UBI-ye yakın gelir modelleri, hesap kredileri, token dağıtımları veya platforma bağlı avantajlar üretirse, dağıtım hattı yumuşak bir kilit mekanizması haline gelebilir. Kullanıcılar, çalıştırdıkları yazılımı, verilerinin nasıl hareket ettiğini ve kimlerin adlarına harekete geçebileceğini tanımlayan bir ekosistem aracılığıyla hizmetlere erişim alabilir.

UBI katmanı, bu sorunun en hassas versiyonudur. Sam Altman, uzun süredir gelir dağılımı üzerine AI çağı tartışmalarıyla ilişkilendirilmiştir ve Worldcoin, kısmen kimlik kanıtı ve UBI benzeri dağıtımların olasılığı etrafında sunulmuştur.

Daha geniş nokta, bir projeden daha büyüktür. Ekonomik destek, kimlik doğrulama, hesaplama erişimi ve yazılım izinleri bir araya geldiğinde, katılımlar gönüllü görünürken koşullu hale gelebilir.

Bir kullanıcı teorik olarak tercihini vazgeçme hakkına sahip olabilir, ancak pratikte yönetilen bir uygulama katmanına yönlendirilebilir.

Konvenyans ana mücadele alanı haline geliyor. Kurumsal altyapı, düşük sürtünmeyle kullanıcılar kazanacak.

Düzenlenmiş varsayılan ayarlar, anında erişim, birleşik AI, sosyal uyumluluk, kurtarma akışları, uyumluluk kapsama alanı ve ödüller sunacaktır. Özel stack, kullanılabilirlik hissi veren özerklik üzerinde rekabet etmek zorunda kalacaktır.

Kullanıcıların daha fazla sorumluluk kabul etmesi için bir neden sunmalı, teknik yönetimi ön plana çıkarmadan. Kişisel temsilci, önceki zamanlarda egemenliği pratik olmayan hale getiren karmaşıklığı absorbe edebildiği için karar verici hale gelir.

İlk derece risk, kullanıcıların maliyeti anlaymadan önce kolaylık için kontrolü elden çıkarmasıdır. İkinci derece risk, bu alışverişin sübvansiyonla desteklenmesi, normal hale gelmesi ve nihayetinde ekonomik yaşama erişim için zorunlu hale gelmesidir.

Kurumsal uygulamalar, paketlenmiş avantajları kabul edenler için varsayılan ortam haline gelebilir. Özel olarak oluşturulan uygulamalar, yazılım katmanını ödeme, doğrulama, yapılandırma veya kendi kendine custody etmeye istekli olanlar için varsayılan hale gelebilir.

Bu, yürütme kontrolü etrafında yeni bir sınıf ayrımını yaratır. Soru, ajans yapısındaki yapay zekânın bu ayrımı sıkıştırıp sıkıştırmadığıdır.

Bu geçiş eşit olmayacaktır. Düzenlenen sektörler daha yavaş hareket edecektir.

Kurumlar, uygulama ekosistemlerini uyumluluk argümanlarıyla koruyacak. Tüketiciler, özel alternatif kırılgan hissedildiğinde varsayılan kolaylığı seçmeye devam edecek.

Saldırganlar, ajanları, yönergeleri, bağımlılık seçimi, model tedarik zincirlerini ve uç nokta doğrulamalarını hedefleyecektir. Doğrulama sistemleri, küçük bir sayıda sertifika yetkilisi, bulut platformu veya model sağlayıcısı tarafından ele geçirilirse yeni darboğazlar oluşturacaktır.

Kişisel yazılım egemenliği, kullanıcıların inceleyememesi, taşıyamaması ve iptal edememesi durumunda başka bir marka iddiası haline gelebilir.

Yine de yön, sonraki testi tanımlamak için yeterince açık. Soru, kendi ajanlarının ihtiyaçlarının çoğunu kendi başlarına oluşturabilmesi durumunda insanların egemenlik yerine kolaylığı kabul edip etmeyeceğidir.

Bugün cevap büyük ölçüde evet, çünkü alternatif hâlâ çok talep edici. Yarın cevap daha az kesin hale geliyor.

Bir uygulama oluşturabilen, izinlerini kısıtlayabilen, bağımlılıklarını denetleyebilen, yalnızca sıralı uç noktalara bağlanabilen ve koşullar değiştiğinde yeniden inşa edebilen bir kullanıcı, kurumsal yazılım paketine gerçek bir alternatife sahiptir.

Bu alternatif ilk başta garip gelecek. Sonra akıllıca görünecek.

Sonrasında, para, kimlik, sağlık verileri, özel iletişimler, araştırma veya iş operasyonları ile ilgilenen herkes için bu, varsayılan beklenti haline gelebilir. Kolaylık hakim olduğunda, sübvansiyonlar seçimi bozduğunda ve kullanıcılar ekonomik erişim karşılığında yönetilen ortamları kabul ettiğinde, şeffaf olmayan üçüncü taraf kodları çalıştırma devam edecektir.

Ajanlar özel nesil rutini oluşturduğunda solacaktır.

Sosyal yeniden sınıflandırma yavaş olacak, ardından aniden gerçekleşecek. Eski alışkanlık, yeni varsayılan açık hale gelene kadar tanıdık kalacak.

Kullanıcılar kendi ajanlarını uygulama oluşturmak, yürütme yolunu doğrulamak ve yalnızca onaylanmış uç noktalara bağlanmak için kullanabildiğinde, açıklama yükü tersine döner. Başkasının kodunu çalıştıran kişinin bir nedeni olmalıdır.

Ajan üzerinden kurulan kişi, daha güvenli varsayılanı kullanacaktır. Ancak, matrise bağlı kalanlara verilen kurumsal teşvikleri kaçırmak zorunda kalabilir.

Uygulama günleri sayılınca: Yazılımın nihai hali özel, kişisel, doğrulanmış ve AI ajanı tarafından oluşturulmuş olacak gönderisi önce CryptoSlate'de yayınlandı.