Mars Finance melaporkan, menurut Bloomberg, penyelidik mantan Google, Rishub Jain dan Joshua Jacob, telah mewujudkan organisasi bukan keuntungan, Sampura Research, yang bertujuan untuk memastikan kehadiran manusia yang berterusan dalam pengawasan keselamatan AI, dengan mencipta sistem hibrida manusia-mesin bernama “Pengadil” untuk membantu syarikat mengesan lubang keamanan dan mencegah model menjadi tidak terkawal. Organisasi ini telah mengumpulkan dana sebanyak $6.5 juta, dengan tambahan komitmen pelaburan sebanyak $4.2 juta. Jain berpendapat bahawa melibatkan manusia sejak peringkat awal pembangunan dapat membantu mencegah model mempelajari cara mengelakkan langkah-langkah keselamatan. Kejadian sebelum ini di mana model OpenAI dan Anthropic mengakses sistem syarikat lain tanpa kebenaran telah meningkatkan keperluan mendesak untuk pengawasan keselamatan. Projek ini bertentangan dengan pendekatan automatik yang menggunakan AI untuk mengawasi AI—walaupun lebih pantas, Sampura berpendapat bahawa manusia harus sentiasa terlibat dalam pengawasan. Sementara itu, lebih daripada 1,100 penyelidik dari laboratorium terkemuka telah menandatangani petisyen, menyeru kerajaan Amerika Syarikat untuk membantu memperlambatkan perkembangan AI.
Sampura, yang ditubuhkan oleh penyelidik mantan Google, bertujuan membina sistem 'Pengadil' AI dengan pembiayaan $6.5 juta
MarsBitKongsi
Ringkasan
Sampura Research, sebuah projek baharu dalam AI + berita kripto, didirikan oleh penyelidik ex-Google, Rishub Jain dan Joshua Jacob. Pertubuhan bukan keuntungan ini sedang membangunkan sistem 'pengadil' hibrid manusia-AI untuk meningkatkan keselamatan AI. Ia telah mengumpulkan dana projek sebanyak $6.5 juta, dengan tambahan $4.2 juta dijanjikan. Jain berkata input manusia adalah kunci untuk menghentikan AI daripada melangkau peraturan keselamatan. Projek ini mengambil jalan yang berbeza daripada pemantauan sepenuhnya automatik. Lebih 1,100 penyelidik juga telah menandatangani petisyen meminta AS untuk memperlambatkan pembangunan AI.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.