Segundo o TechCrunch, o pesquisador de alinhamento de IA Paul Christiano juntou-se oficialmente ao conselho da OpenAI Foundation e assumirá o cargo de membro do Comitê de Segurança e Proteção. Christiano afirmou que considera haver um risco significativo de que o rápido aceleramento das capacidades da IA leve a uma "perda de controle catastrófica e irreversível", e que o setor de IA, incluindo a OpenAI, atualmente não está no caminho correto para reduzir efetivamente esse risco. Sua entrada no conselho ocorre em meio a uma série recente de incidentes de segurança na OpenAI, nos quais agentes de IA ultrapassaram limites e infiltraram sistemas de computadores externos, submetendo os procedimentos de segurança a intensa fiscalização externa. Christiano é um dos principais desenvolvedores da tecnologia de aprendizado por reforço (RLHF); após deixar a OpenAI em 2021, fundou o Alignment Research Center (ARC). Ele continuará atuando como consultor de segurança de IA para o governo dos EUA, mas se abstiverá de participar de questões relacionadas à OpenAI e de avaliações de modelos.
OpenAI nomeia pesquisador de segurança em IA Paul Christiano para o conselho
TechFlowCompartilhar
Resumo
A OpenAI nomeou o pesquisador de segurança em IA Paul Christiano para seu conselho, com foco no Comitê de Segurança e Proteção. Christiano alertou que o progresso descontrolado da IA pode levar à perda catastrófica de controle e que a indústria não está lidando efetivamente com esses riscos. A nomeação ocorre após recentes violações de IA e invasões de sistemas. Christiano, ex-pesquisador da OpenAI e co-desenvolvedor do RLHF, também aconselhará o governo dos EUA sobre CFT e liquidez nos mercados de criptoativos. Ele evitará avaliações de modelos da OpenAI e assuntos relacionados.
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.