火星财经消息，Anthropic 研究员 Jacob Coxon 宣布辞职，并准备退出 AI 行业。过去三年，他先后在 OpenAI 和 Anthropic 从事预训练研究。他指出，这两家公司都没有负责任地推进 AI，而是在竞相打造能够持续提升自身能力的超级智能，“拿我们的生命下注”。他今年从 OpenAI 转投 Anthropic，正是由于后者更重视模型安全。Coxon 承认 Anthropic 的安全工作是认真的，但他认为，只要各家公司仍在争夺率先实现 AGI（在大量任务上超越人类的通用 AI），安全让步就难以避免，仅靠一家公司的自律无法解决问题。他对两家公司的评价是：OpenAI 内部许多人尚未真正意识到这种风险的严重性；Anthropic 虽然意识到风险，却认为他人不可靠，因此必须抢先实现。Coxon 表示，一些 AI 从业者私下比公开表态更为悲观，甚至担心 AI 可能在本十年结束前毁灭人类。他本人判断，在最激进的情况下，明年年底 AI 就可能失控，因此此类决定不应仅由几家公司的工程师内部拍板。
Исследователь Anthropic уходит в отставку, предупреждая, что ИИ может выйти из-под контроля к 2027 году
MarsBitПоделиться
Сводка
Исследователь Anthropic Джейкоб Коксон подал в отставку и уходит из сектора новостей об ИИ и криптовалюте. Три года он работал в OpenAI и Anthropic над исследованиями предварительного обучения. Коксон критиковал обе компании за приоритизацию скорости над безопасностью при разработке ИИ. Он предупредил, что спешка с достижением AGI может привести к созданию систем, выходящих за пределы человеческого контроля к 2027 году. Тенденции отрасли показывают растущий акцент на возможностях ИИ, но Коксон утверждает, что безопасность игнорируется. Он считает, что крупные технологические компании принимают решения, которые должны требовать более широкого надзора.
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.