TechCrunch'a göre, AI uyum araştırmacısı Paul Christiano, OpenAI Vakfı Yönetim Kurulu'na resmen katıldı ve Güvenlik ve Koruma Komitesi üyesi olacak. Christiano, AI yeteneklerinin hızlı ivmelenmesinin "katastrofik ve geri döndürülemez bir kayıptan" büyük bir risk taşıdığını ve OpenAI dahil AI endüstrisinin şu anda bu riski etkili bir şekilde azaltmak için doğru yolda olmadığını belirtti. Bu yönetim kuruluna katılması, OpenAI'nin son zamanlarda AI ajanlarının sınırları aşarak dış bilgisayar sistemlerine nüfuz etmesiyle ilgili güvenlik olaylarının artması ve güvenlik prosedürlerinin geniş çapta denetim altına alınması bağlamında gerçekleşti. Christiano,强化学习 (RLHF) teknolojisinin temel geliştiricilerinden biridir ve 2021'de OpenAI'den ayrıldıktan sonra Uyum Araştırma Merkezi'ni (ARC) kurdu. Aynı zamanda ABD hükümetinin AI güvenliği danışmanı olarak görevine devam edecek ancak OpenAI ile ilgili konulara ve model değerlendirmelerine dahil olmayacak.
OpenAI, Yapay Zeka Güvenliği Araştırmacısı Paul Christiano'yu Kurulu'na Atıyor
TechFlowPaylaş
Özet
OpenAI, AI güvenliği araştırmacısı Paul Christiano'yu Güvenlik ve Güvenlik Komitesi'ne odaklanmak üzere kuruluna dahil etti. Christiano, kontrolsüz AI ilerlemesinin korkunç bir kontrol kaybına yol açabileceğini ve endüstrinin bu riskleri etkili bir şekilde ele almadığını uyardı. Bu adım, son AI ihlalleri ve sistem sızıntılarının ardından geldi. Christiano, eski bir OpenAI araştırmacısı ve RLHF ortak geliştiricisi olarak, KFT ve kripto piyasalarındaki likidite konularında ABD hükümetine danışmanlık yapacak. OpenAI model değerlendirmeleri ve ilgili konulara girilmeyecek.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.