Искусственный интеллект становится все лучше в выполнении задач, выходящих за рамки ответов на вопросы. Системы ИИ теперь помогают с программированием, исследованием, анализом и другими задачами, которые раньше выполнялись почти исключительно людьми. Это поднимает новый вопрос: что произойдет, когда ИИ начнет играть более значительную роль в создании следующего поколения ИИ?
OpenAI теперь призывает к международным стандартам, чтобы помочь ответить на этот вопрос. В посте от 21 сентября под названием «Создание стандартов для следующего этапа ИИ» OpenAI предложила инициативу под руководством США по разработке общих технических стандартов для передовых ИИ. Компания утверждает, что эти стандарты могут помочь странам измерять возможности ИИ, оценивать риски, тестировать меры защиты и сообщать о серьезных инцидентах с использованием более последовательных методов.
Основные выводы
- OpenAI хочет международных стандартов для оценки передовых ИИ.
- Предложение охватывает возможности, риски, меры защиты и отчетность о инцидентах.
- OpenAI говорит, что полностью автономная рекурсивная самосовершенствующаяся система сегодня не реализуется.
- Компания хочет, чтобы человеческий контроль оставался центральным по мере того, как ИИ становится более способным.
- Существующие организации по безопасности ИИ могут помочь в разработке общих технических стандартов.
Openai хочет единую рамочную систему для передовых ИИ
Основная идея довольно проста. Не обязательно каждой стране разрабатывать совершенно разную методологию для оценки опасностей, создаваемых передовыми ИИ. Согласно OpenAI, стандартизация технических подходов может предоставить странам, исследователям и сообществу ИИ эффективный способ оценки их все более сложных ИИ. Это становится особенно актуальным, когда инциденты, связанные с ИИ, происходят через границы.
Компания не предлагает единого глобального закона об ИИ. Вместо этого она стремится к тому, чтобы страны разработали совместимые стандарты, которые правительства смогут впоследствии использовать в рамках своих собственных регуляторных систем. Это различие существенно, поскольку предложенные стандарты не становятся немедленными требованиями для лицензирования или сертификации всех технологий искусственного интеллекта. Вместо этого правительства сохраняют право определять, как стандарты будут применяться в пределах их юрисдикций.
Рекурсивное самоусовершенствование — часть разговора
Одной из более интересных частей предложения OpenAI является обсуждение рекурсивного самоусовершенствования (RSI). Эта концепция описывает будущее, в котором ИИ-системы могут все больше помогать исследователям разрабатывать более способные ИИ-системы. Проще говоря, ИИ может стать частью процесса улучшения самого ИИ.
Это может потенциально ускорить исследования в области ИИ. Но это также создает сложный вопрос безопасности: какой объем человеческого контроля должен оставаться в цикле, если системы ИИ станут сильно вовлечены в разработку будущих моделей?
OpenAI заявляет, что полностью автономная рекурсивная самосовершенствующаяся система сегодня не реализуется. Она также утверждает, что такое направление не следует развивать, если только это не может быть сделано безопасно при сохранении человеческого контроля. Это делает оценку и тестирование на безопасность еще более важными по мере того, как ИИ-системы становятся способными справляться с все более сложными задачами исследований и разработок.
Стандарты безопасности ИИ могут стать еще более важными
OpenAI также указывает на существующие организации и сети по безопасности ИИ по всему миру как потенциальные строительные блоки для этих усилий. Компания специально упоминает институты по безопасности ИИ и связанные организации в странах, включая США, Великобританию, Канаду, Францию, Германию, Японию, Южную Корею, Сингапур, Индию, Кению и Австралию.
Вместо того чтобы каждая страна разрабатывала собственный полностью отдельный технический подход, OpenAI хочет, чтобы эти группы работали над стандартами, которые могут дополнять друг друга. В предложении также призывается к участию разработчиков ИИ, исследователей, академиков и независимых технических экспертов. OpenAI утверждает, что стандарты должны разрабатываться на основе технических показателей, а не интересов конкретной компании или страны.
Почему это важно
Время этого события примечательно. Компании, занимающиеся ИИ, создают системы, способные все чаще выполнять многоэтапные задачи с меньшим прямым участием человека, в то время как правительства все еще определяют, как регулировать эту технологию.
Reuters сообщила, что OpenAI хочет, чтобы США взяли на себя ведущую роль в разработке международных технических стандартов для продвинутого ИИ. Более серьезной задачей может стать согласие стран и компаний относительно того, что именно должны измерять эти стандарты и как они должны применяться.
На данный момент предложение OpenAI сосредоточено на создании общей технической основы до того, как передовые ИИ станут еще более способными. По мере того как ИИ начинает выполнять все больше работы, связанной с разработкой самого ИИ, наличие общего способа измерения возможностей, рисков и мер защиты может стать все более важной частью дискуссии.
Эта статья была первоначально опубликована как OpenAI продвигает глобальные стандарты безопасности ИИ по мере увеличения автономности ИИ на Crypto Breaking News — вашем надежном источнике новостей о криптовалюте, новостей о bitcoin и обновлений блокчейна.