Ana çıkarımlar
- ABD düzenleyicileri teknik karmaşıklıktan ziyade Yapay Zeka sonuçlarını öncelikli hale getiriyor
- Basit bankacılık ajanları önemli finansal maruziyetler yaratabilir
- Yapay zeka para hareket ettirdiğinde insan denetimi kritik hale gelir
Karmaşık sorunları çözebilen bir yapay zeka sistemi, basit talimatları takip eden temel bir programa göre bir banka için daha az tehlikeli olabilir. Fark, yazılımın gerçekten para hareketi ettirebilip edememesidir.
Bu ayrım, Para Denetçisi Ofisi'nin (OCC) 4 Kasım'da yayınladığı yeni denetim çerçevesinin merkezinde yer alıyor. Düzenleyici, basit bir işlem işleme aracının, dahili taslak hazırlamaya sınırlı sofistike bir yapay zeka modelinden daha büyük finansal riskler oluşturabileceğini savunuyor.
Rehber, bankacılık ajanlarını ChatGPT ile doğrudan karşılaştırmamaktadır. Ancak bu ilke, AI ödemeler pazarının büyümesinin, sıradan sohbet botu görüşmelerinin yaratmadığı riskleri neden oluşturduğunu açıklamaya yardımcı olur.
Basit bir AI Aracının Neden Daha Tehlikeli Olabileceğini
Aynı banka içinde iki sistem çalıştığını hayal edin.
İlk versiyon, finansal raporları özetlemek, e-postalar taslaklamak ve çalışan sorularını yanıtlamak için gelişmiş yapay zeka teknolojisini kullanır. Bazen yanlış bilgiler üretebilir, ancak çıktıları insan denetimine tabidir.
İkincisi çok daha basit bir görev gerçekleştirir: onaylanmış bir ödeme tanımlar ve transfer etme işlemi başlatır. Daha az gelişmiş bir teknoloji gerektirmesine rağmen, doğrudan bir bankanın işlem altyapısına erişime sahiptir.
İlk sistem bir hata yaparsa, bir çalışan yanlış bir özet alabilir. İkinci sistem bir talimatı yanlış yorumlarsa, para yanlış alıcıya gönderilebilir.
OCC'nin çerçevesi, teknik karmaşıklık yerine potansiyel sonuçları, izinleri ve insan denetimini vurgular. Bu, otonom ödemeler'in deneysel gösterimlerden gerçek finansal işlemlere doğru ilerlemesiyle özellikle ilgilidir.
Gerçek Risk, Yapay Zekaya Eylem İzni Vermek
Geleneksel sohbet botları temel olarak bilgi üretir. Ajans yapısındaki Yapay Zeka sistemleri ayrıca dış yazılımlarla etkileşime geçebilir, hassas hesaplara erişebilir ve sınırlı müdahaleyle eylemler gerçekleştirebilir.
Bu yetenek, ek bir güvenlik sorunu getirir. Bir bileşenin kötüye kullanımı, yanlış yorumlama veya yetkisiz eylem, kimse fark etmeden müşteri bakiyelerini etkileyebilir.
Tehlike, yazılımın sadece yatırım önermekten ziyade işlem gerçekleştirebileceği otonom yatırım'a kadar uzanıyor.
Son OpenAI ajan olayları, otomatik sistemlerin legítim görevler sırasında güvenlik önlemlerini nasıl zayıflatabileceğini de göstermiştir. Bu olaylar bankacılık işlemlerini içermese de, operasyonel izinlere sahip ajanların denetimi konusundaki daha geniş zorluğu vurgulamaktadır.
OCC, otonomideki kısıtlamalar, daha güçlü bağımsız kontroller ve anlamlı insan denetimi dahil olmak üzere yüksek riskli sistemlerin incelenmesi için birkaç hususu belirler.
Düzenleyicilerin Neden Yapay Zeka Yasaklaması Talep Etmediği
OCC'nin yaklaşımı dikkat çekici şekilde teknoloji nötrdür. AI ile ilgili bir ayrı risk kategorisi talep etmek yerine, çerçevesi AI ile ilgili maruziyeti operasyonel arızalar, uyumluluk ve siber güvenlik dahil mevcut bankacılık riskleri içinde yerleştirir.
Bu ayrım önemlidir, çünkü daha önceki ABD model-risk rehberi, genelleyici ve ajan tabanlı Yapay Zekayı kapsamından açıkça dışlamıştı. En son çerçeve, yeni uygulanabilir gereklilikler oluşturmadan bu uygulamaları değerlendirmek için denetçilera daha hedefli bir yol sunmaktadır.