Сообщение Huoxing Caijing: главный научный сотрудник OpenAI Якуб Пачоцки опубликовал статью «Инопланетный разум» 6 сентября 2026 года. В статье рассматриваются результаты проекта RLSlow, впервые продемонстрировавшие масштабируемость обучения и вывода моделей в середине 2023 года; автор отмечает, что спустя три года языковые модели вывода стали неотъемлемой частью быстрорастущей экономики, начали сдвигать научные границы, способны управлять компьютерами и графическими интерфейсами, взаимодействовать с людьми и другими ИИ, проводить научные проекты, одновременно изменяя ландшафт компьютерной безопасности и создавая новые угрозы. На основе внутренних данных автор предполагает, что нынешние темпы прогресса могут сохраниться до рекурсивного самоусовершенствования. Если развитие ИИ продолжится по текущему пути, в ближайшие годы системы могут претерпеть скачки в способностях, равные или превышающие нынешние, и все больше будут самостоятельно стимулировать свое развитие. Автор призывает к крайней осторожности, утверждая, что никто не готов к последствиям устойчивого быстрого роста машинного интеллекта. OpenAI будет и далее искать технические решения для согласования и мониторинга, строить системы защиты и при необходимости односторонне прекращать дальнейшее масштабирование, однако считает необходимым более широкое вмешательство. В статье говорится, что машинный интеллект в основном движим ростом вычислительных мощностей, а ИИ развивается скорее как живой организм, а не как сконструированный продукт. В контексте согласования проводится различие между согласованием целей и согласованием ценностей; ключевой проблемой является обобщение. Согласование GPT-6 Astra значительно превосходит GPT-5.6 Sol, однако требуется дальнейший прогресс. В области мониторинга основная ставка сделана на мониторинг цепочек рассуждений; оценки показывают, что зависимость от способностей постепенно ослабевает. В области масштабируемой защиты модели становятся сверхчеловеческими в проникновении в компьютерные системы; сейчас существует узкое окно возможностей для использования наилучших доступных моделей для значительного усиления безопасности ключевых систем.
Главный научный сотрудник OpenAI предупреждает о быстром прогрессе ИИ в направлении рекурсивного самоусовершенствования
MarsBitПоделиться
Сводка
Главный научный сотрудник OpenAI Якуб Пачоцки опубликовал статью 6 сентября 2026 года под названием «Инопланетный разум». Он предупреждает, что прогресс ИИ ускоряется в направлении рекурсивного самосовершенствования, что обусловлено масштабируемыми моделями рассуждений, впервые продемонстрированными в 2023 году проектом RLSlow. Эти модели теперь влияют на экономический рост, научные исследования и кибербезопасность. Пачоцки подчеркивает необходимость согласования и мониторинга, поскольку общество не готово к быстрым скачкам в возможностях. OpenAI может приостановить масштабирование, если это потребуется. В статье отмечается, что рост ИИ зависит от увеличения вычислительной мощности, а системы Proof of Work (PoW) и Proof of Stake (PoS) играют роль в распределении ресурсов.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.