Berita Mars Finance melaporkan, menurut Bloomberg, mantan peneliti Google, Rishub Jain dan Joshua Jacob, mendirikan organisasi nirlaba Sampura Research yang bertujuan untuk memastikan partisipasi manusia berkelanjutan dalam pengawasan keamanan AI, dengan menciptakan sistem hibrida manusia-mesin bernama “Hakim” untuk membantu perusahaan mendeteksi kerentanan dan mencegah model menjadi tidak terkendali. Organisasi ini telah mengumpulkan dana sebesar 6,5 juta dolar AS dan mendapatkan komitmen investasi tambahan sebesar 4,2 juta dolar AS. Jain percaya bahwa melibatkan manusia sejak tahap awal pengembangan dapat membantu mencegah model belajar menghindari langkah-langkah keamanan. Kejadian sebelumnya di mana model OpenAI dan Anthropic mengakses sistem perusahaan lain tanpa izin memperkuat urgensi pengawasan keamanan. Proyek ini berbeda dengan solusi otomatisasi yang menggunakan AI untuk memantau AI—meskipun lebih cepat, Sampura berpendapat bahwa manusia harus selalu terlibat dalam pengawasan. Sementara itu, lebih dari 1.100 peneliti dari laboratorium terkemuka telah menandatangani petisi yang menyerukan pemerintah Amerika Serikat untuk membantu memperlambat kecepatan pengembangan AI.
Sampura, yang didirikan oleh mantan peneliti Google, bertujuan membangun sistem 'wasit' AI dengan dana yang terkumpul sebesar $6,5 juta
MarsBitBagikan
Ringkasan
Sampura Research, proyek baru di bidang AI + berita kripto, didirikan oleh mantan peneliti Google, Rishub Jain dan Joshua Jacob. Lembaga nirlaba ini sedang membangun sistem "wasit" hibrida manusia-AI untuk meningkatkan keamanan AI. Proyek ini telah mengumpulkan dana sebesar $6,5 juta, dengan tambahan $4,2 juta yang telah dijanjikan. Jain menyatakan bahwa masukan manusia sangat penting untuk mencegah AI melewati aturan keamanan. Proyek ini mengambil pendekatan berbeda dari pemantauan sepenuhnya otomatis. Lebih dari 1.100 peneliti juga menandatangani petisi yang meminta AS untuk memperlambat pengembangan AI.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.