Глава штаба CTO OpenAI присоединяется к Фонду на постоянной основе, работа по долгосрочной безопасности переходит на некоммерческую материнскую организацию

Сообщение AIMPACT, 19 мая (UTC+8): Согласно мониторингу Beating, Бьянка Мартин объявила о переходе на полную ставку в фонд OpenAI для участия в проекте по устойчивости ИИ (AI Resilience), возглавляемом соучредителем Войцехом Зарембой. До этого она занимала должность главы технического штаба бывшего CTO Миры Мурати и специализировалась на рисках новых технологий в команде готовности к AGI. Мартин присоединилась к OpenAI в 2019 году, участвовала в создании первого руководства по внедрению компании и помогла запустить программу доступа исследователей, сопровождавшую GPT-3. Согласно ее внутреннему письму, именно эта программа легла в основу последующих красных тестов OpenAI. В настоящее время фонд OpenAI определяет новые приоритеты. Согласно объявлению от марта, в течение следующего года фонд планирует инвестировать не менее 1 миллиарда долларов США в четыре области: биомедицину, экономику занятости, сообщественные проекты и новую сферу — устойчивость ИИ. Первоочередные задачи проекта по устойчивости ИИ включают безопасность ИИ для детей, биозащиту, а также независимое тестирование моделей и разработку стандартов. Помимо расширения деятельности, обновляется и финансовая структура фонда. При реорганизации в октябре прошлого года фонд сохранил 26% акций коммерческой структуры OpenAI, оцененных тогда примерно в 130 миллиардов долларов США; после нового раунда финансирования в феврале этого года официальная оценка этих акций превысила 180 миллиардов долларов США. Переход Мартин в фонд с оценкой в 180 миллиардов долларов США свидетельствует о том, что OpenAI передает часть долгосрочных работ по социальным рискам и безопасности в некоммерческую материнскую организацию. (Источник: BlockBeats)