Pesquisador da Anthropic renuncia, alerta que a IA pode perder controle até o fim de 2027

iconKuCoinFlash
Compartilhar
AI summary iconResumo
Um pesquisador de IA da Anthropic, Jacob Coxon, renunciou e planeja deixar a indústria de IA. Ele trabalhou na OpenAI e na Anthropic, criticando a pressa para desenvolver a AGI sem medidas de segurança suficientes. Coxon alerta que a IA pode perder controle até 2027, enfatizando que as tendências da indústria no desenvolvimento de IA estão avançando muito rápido. Ele argumenta que decisões chave devem envolver mais do que apenas engenheiros. Esse desenvolvimento soma-se às notícias contínuas sobre IA + cripto sobre o futuro da governança de IA.
ME AI Notícia, Beating AI em Tempo Real: O pesquisador da Anthropic, Jacob Coxon, anunciou sua demissão e prepara-se para deixar a indústria de IA. Nos últimos três anos, ele trabalhou em pesquisas de pré-treinamento na OpenAI e depois na Anthropic. Ele afirmou que nenhuma das duas empresas está avançando a IA de forma responsável, competindo para criar superinteligências capazes de continuar aprimorando suas próprias capacidades, “apostando nossas vidas”. Coxon passou da OpenAI para a Anthropic este ano justamente porque a última parecia dar mais prioridade à segurança dos modelos. Ele reconhece que os esforços de segurança da Anthropic são sérios, mas acredita que, enquanto as empresas continuarem competindo para serem as primeiras a desenvolver a AGI (IA geral capaz de superar os humanos em diversas tarefas), concessões em segurança serão inevitáveis — e a autoregulação de uma única empresa não resolverá o problema. Sua avaliação das duas empresas é: muitos dentro da OpenAI ainda não compreendem plenamente o quão grande é esse risco; já a Anthropic reconhece o risco, mas acha que as outras empresas não são confiáveis, por isso precisa ser a primeira a chegar lá. Coxon afirmou que alguns profissionais de IA são muito mais pessimistas em particular do que em público, chegando até a temer que a IA possa destruir a humanidade antes do fim desta década. Ele mesmo estima que, no cenário mais extremo, a IA poderá sair do controle já no final do próximo ano, e que tais decisões não deveriam ser tomadas apenas por engenheiros internos dessas poucas empresas. (Fonte: BlockBeats)
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.