Ketua Staf CTO OpenAI Menyertai Yayasan Secara Penuh Masa, Kerja Keselamatan Jangka Panjang Dipindahkan kepada Ibu Syarikat Bukan Keuntungan

Pesan AIMPACT, 19 Mei (UTC+8), menurut pemantauan Beating, Bianca Martin mengumumkan perpindahan penuh waktu ke Yayasan OpenAI untuk bergabung dengan projek Ketahanan AI (AI Resilience) yang dipimpin oleh ko-pendiri Wojciech Zaremba. Sebelum perpindahan ini, dia pernah menjabat sebagai Kepala Staf Teknis bagi mantan CTO Mira Murati dan fokus pada risiko teknologi baru di tim Persiapan AGI. Martin bergabung dengan OpenAI pada 2019 dan terlibat dalam penyusunan manual taktis penyebaran pertama perusahaan, serta membantu meluncurkan program akses peneliti yang menyertai GPT-3. Menurut surat internalnya, program ini menjadi dasar bagi pekerjaan uji red team OpenAI kemudian. Saat ini, Yayasan OpenAI sedang menetapkan bidang usaha baru. Menurut pengumuman Maret, yayasan ini diperkirakan akan mengalokasikan setidaknya $1 miliar dalam setahun ke depan, dengan dana mencakup empat bidang: ilmu hayat, ekonomi ketenagakerjaan, projek komunitas, serta Ketahanan AI yang baru ditambahkan. Tugas pertama projek Ketahanan AI secara langsung berfokus pada keselamatan AI untuk anak-anak, pencegahan biologis, serta pengujian dan penetapan standar model independen. Selain perluasan bisnis, skala pendanaan yayasan juga diperbarui. Pada reorganisasi Oktober tahun lalu, yayasan mempertahankan 26% saham entitas komersial OpenAI, dengan valuasi sekitar $130 miliar; setelah pendanaan baru pada Februari tahun ini, valuasi resmi saham ini telah melebihi $180 miliar. Perpindahan Martin ke yayasan dengan valuasi $180 miliar menunjukkan bahwa OpenAI sedang memindahkan sebagian pekerjaan jangka panjang terkait risiko sosial dan keamanan ke bawah badan nirlaba induk. (Sumber: BlockBeats)