O CEO da OpenAI, Sam Altman, se opõe ao sistema de recompensas humanas controlado por IA

iconKuCoinFlash
Compartilhar
AI summary iconResumo
O CEO da OpenAI, Sam Altman, expressou preocupações sobre sistemas de IA gerenciarem recompensas e comportamentos humanos. Ele enfatiza a necessidade de controle humano sobre os desenvolvimentos futuros, mesmo que isso desacelere o progresso da IA. Suas observações seguem um artigo de 2024 de Dario Amodei da Anthropic, que examinou modelos econômicos impulsionados por IA, como a renda básica universal. Amodei alertou para riscos como exploração e resultados distópicos. Os traders devem considerar essas visões ao analisar níveis de suporte e resistência em ativos relacionados à IA. As estratégias de alocação de ativos podem precisar refletir o cenário regulatório e ético em evolução.
ME AI Notícia, Beating AI em Tempo Real: O CEO da OpenAI, Sam Altman, postou expressando oposição pública a um futuro no qual os humanos vivam de acordo com o que a IA considera merecedor de recompensa, e a IA decide quais recompensas conceder. Em sua visão, os humanos devem sempre manter o controle sobre o futuro. Mesmo que isso exija limitar o desenvolvimento de inteligências superiores, não se deve entregar essa decisão. Altman não mencionou nomes, mas a frase que citou vem diretamente do longo artigo de 2024 do CEO da Anthropic, Dario Amodei, intitulado “Machines of Loving Grace”. Amodei levantou então a questão: se a IA acabar sendo superior aos humanos em quase todos os trabalhos e seu custo for tão baixo que os humanos percam competitividade econômica, como a sociedade funcionaria? Ele discutiu várias possíveis soluções, incluindo renda básica universal e um modelo econômico no qual a IA gera riqueza abundante e distribui recursos com base nos comportamentos humanos que ela considera merecedores de recompensa. Nesse cenário, os humanos talvez não precisem mais trabalhar para sobreviver, mas a quantidade de recursos que recebem dependeria da avaliação da IA sobre suas próprias ações. No entanto, Amodei não apresentou esse mecanismo como uma proposta formal. Ele reconheceu que todas essas soluções apresentam sérios problemas e alertou para a possibilidade de resultados exploratórios e distópicos. (Fonte: MLion)
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.