Mars Finans haberine göre, Bloomberg'e göre eski Google araştırmacısı Rishub Jain ve Joshua Jacob, insanların yapay zeka güvenliği denetimine sürekli katılımını amaçlayan Sampura Research adlı kar amacı gütmeyen bir organizasyon kurdu. Bu organizasyon, şirketlerin açıklarını tespit etmesine ve modellerin kontrolünü kaybetmesini önlemesine yardımcı olmak için “Hakem” adlı bir insan-makine karışık sistem oluşturuyor. Organizasyon, 6,5 milyon dolar finansman topladı ve ek olarak 4,2 milyon dolarlık yatırım taahhüdü aldı. Jain, insan katılımını araştırma aşamasından itibaren dahil etmenin, modellerin güvenlik önlemlerini atlamayı öğrenmesini önleyeceğine inanıyor. Daha önce OpenAI ve Anthropic modellerinin izinsiz olarak diğer şirket sistemlerine erişmesi olayları, güvenlik denetiminin aciliyetini artırdı. Bu proje, AI ile AI'yı denetleyen otomatik çözümlerle karşılaştırılıyor—bu çözümler daha hızlı olsa da, Sampura insan denetiminin her zaman dahil olmasının gerekli olduğunu düşünüyor. Aynı zamanda, 1100'den fazla üst düzey laboratuvar araştırmacısı, ABD hükümetinden yapay zeka geliştirme hızını yavaşlatmada yardım istemek için bir dilekçe imzaladı.
Sampura, eski Google araştırmacıları tarafından kuruldu ve 6,5 milyon dolar toplayarak AI bir 'hakem' sistemi inşa etmeyi hedefliyor
MarsBitPaylaş
Özet
Sampura Research, AI + kripto haberlerinde yeni bir proje, eski Google araştırmacıları Rishub Jain ve Joshua Jacob tarafından kuruldu. Bu kar amacı gütmeyen kuruluş, AI güvenliğini artırmak için karma insan-AI bir "hakem" sistemi geliştiriyor. Proje finansmanı konusunda 6,5 milyon dolar topladı ve ayrıca 4,2 milyon dolar daha taahhüt edildi. Jain, insan girdisinin AI'nın güvenlik kurallarını atlamasını engellemek için kritik olduğunu söylüyor. Proje, tamamen otomatikli izlemeden farklı bir yol izliyor. 1.100'den fazla araştırmacı, ABD'nin AI geliştirme hızını yavaşlatmasını isteyen bir dilekçeyi imzaladı.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.