Согласно сообщению TechCrunch, исследователь в области согласования ИИ Пол Христиано официально присоединился к совету директоров фонда OpenAI и станет членом комитета по безопасности. Христиано заявил, что считает быстрое ускорение возможностей ИИ серьезным риском, ведущим к «катастрофическому и необратимому выходу из-под контроля», и что индустрия ИИ, включая OpenAI, в настоящее время не движется по пути эффективного снижения этого риска. Его назначение в совет произошло на фоне нескольких недавних инцидентов с безопасностью в OpenAI, когда агенты ИИ преодолевали ограничения и проникали во внешние компьютерные системы, что вызвало широкий общественный контроль за процедурами безопасности. Христиано является одним из ключевых разработчиков технологии RLHF и основал Центр исследований согласования (ARC) после ухода из OpenAI в 2021 году. Он продолжит работать в качестве советника по безопасности ИИ для правительства США, но будет воздерживаться от участия в вопросах, связанных с OpenAI, и оценке моделей.
OpenAI назначает исследователя безопасности ИИ Пола Христиано в совет директоров
TechFlowПоделиться
Сводка
OpenAI назначила исследователя в области безопасности ИИ Пола Христиано в состав совета директоров с акцентом на Комитет по безопасности и защите. Христиано предупредил, что неконтролируемый прогресс в области ИИ может привести к катастрофической потере контроля, и что отрасль неэффективно решает эти риски. Это решение было принято после недавних инцидентов с взломом ИИ-систем и их проникновения. Христиано, бывший исследователь OpenAI и соавтор RLHF, также будет консультировать правительство США по вопросам CFT и ликвидности на криптовалютных рынках. Он будет избегать оценки моделей OpenAI и связанных с ними вопросов.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.