CEO da OpenAI propõe três caminhos para o desenvolvimento seguro da superinteligência artificial

Notícia da Huoxing Finance: No último semana, o CEO da OpenAI, Altman, apresentou aos funcionários três abordagens para desenvolver superinteligência artificial com segurança. A primeira é criar uma organização regulatória global, semelhante à Agência Internacional de Energia Atômica, para inspecionar modelos avançados e auditar medidas de segurança. Fontes informadas afirmam que Altman prefere essa via. A segunda imita o CERN, unindo os principais laboratórios de IA em uma única organização ou desenvolvendo conjuntamente por meio de uma entidade unificada, em vez de continuar em uma corrida individual. A terceira é a mais extrema, denominada por ele de "plano Eliezer": uma empresa de IA alcança primeiro a autoaprimoração recursiva e, em seguida, controla a capacidade computacional por meio de sua superioridade econômica, impedindo que outros desenvolvedores a alcancem. Altman descreveu essa ideia como "derreter os GPUs de todas as outras empresas", mas afirmou que esse plano é muito ruim e foi apresentado apenas para abranger todas as possibilidades. A ideia de "derreter GPUs" vem do pesquisador de segurança da IA Eliezer Yudkowsky, que, em 2021, propôs um experimento mental no qual uma superinteligência artificial cria máquinas nanométricas capazes de se replicar para derreter os GPUs globais — ele enfatizou que isso era apenas um exemplo extremo para ilustrar a necessidade de intervenção, e não uma proposta para implementação. Em 2023, a OpenAI já havia proposto a criação de uma "Agência Internacional de Energia Atômica para IA", e o diretor da Google DeepMind, Hassabis, também defendeu a criação de um "CERN para IA". Atualmente, a OpenAI, o Google e a Anthropic planejam estabelecer uma organização conjunta de padrões de segurança até o final deste ano ou início do próximo, mas há divergências sobre a responsabilidade pelos testes de segurança dos modelos. Altman deseja impor limites de velocidade ao desenvolvimento de IA, mas afirmou que a OpenAI atualmente não pode ceder sua vantagem competitiva aos concorrentes.