Enquanto a competição de IA acelera, o líder da OpenAI revelou aos funcionários três possíveis futuros que poderiam transformar completamente o setor.Autor e fonte do artigo: Wall Street Journal
Em 19 de outubro, segundo o The Information, o CEO da OpenAI, Sam Altman, descreveu aos funcionários na semana passada três caminhos de desenvolvimento de segurança da IA discutidos na indústria: criar uma organização regulatória internacional semelhante à Agência Internacional de Energia Atômica, fundir os principais laboratórios de IA em uma única entidade e permitir que uma única empresa monopolize a capacidade de processamento, "derretendo todos os GPUs dos concorrentes". Essa declaração ocorre justamente quando o governo Trump está começando a estabelecer o primeiro conjunto de regulamentações para desenvolvedores de "superinteligência".
Altman afirmou que a OpenAI precisará decidir, nos próximos 12 meses, qual caminho seguir. Ele também enfatizou a希望 de que os humanos mantenham sempre o controle sobre essa tecnologia, evitando a concentração excessiva de poder no setor.
Três caminhos, cada um com seu propósito. Segundo duas fontes informadas, o primeiro caminho apresentado por Altman aos funcionários é criar uma organização internacional, semelhante à Agência Internacional de Energia Atômica (AIEA), responsável por implementar padrões de segurança da IA. Altman pessoalmente prefere apoiar essa proposta.
Na verdade, a ideia de Altman de promover uma agência regulatória internacional no estilo da AIEA é antiga. Relata-se que, já em maio de 2023, Altman, juntamente com o cofundador da OpenAI, Greg Brockman, e o então cientista-chefe Ilya Sutskever, publicaram um artigo conjunto defendendo que o setor pode precisar de uma "agência regulatória de superinteligência semelhante à AIEA", com poderes para inspecionar sistemas, exigir auditorias e rastrear capacidade computacional e consumo de energia.
Essa ideia requer a participação de todos os países líderes no desenvolvimento de modelos avançados na cooperação internacional.
O segundo caminho foi chamado por Altman de "plano Demis" — referindo-se à ideia proposta há cerca de dez anos por Demis Hassabis, ex-chefe da DeepMind, subsidiária do Alphabet: criar uma instituição semelhante ao Centro Europeu de Pesquisa Nuclear (CERN) para efetivamente integrar ou unificar os resultados das principais empresas de IA e fornecer novos modelos aos países parceiros.
A terceira via, que Altman chama de "esquema Eliezer", recebe esse nome em homenagem ao renomado teórico de segurança da IA, Eliezer Yudkowsky. Seu princípio central é: quando um desenvolvedor de IA conseguir primeiro a autoaprimoração recursiva (RSI), utilizará a força econômica adquirida para retirar os recursos de computação de todos os outros desenvolvedores, "derretendo todos os GPUs dos concorrentes".
Quanto ao terceiro caminho, Altman foi claro: "Isso é claramente ruim." Ele disse que incluiu isso na discussão apenas por "completude".
A terceira via, "a proposta de Eliezer", sugere a Anthropic? Fontes informadas revelaram que, devido à ligação entre Yudkowsky e membros-chave da Anthropic, a caracterização de Altman da "proposta de Eliezer" — concentrar a IA avançada sob o controle de uma única empresa — foi interpretada por alguns funcionários como uma crítica implícita à Anthropic.
A Anthropic também está ativamente promovendo sua própria agenda de segurança em IA. A empresa apresentou recentemente aos membros do Congresso um projeto de lei sugerindo que o Departamento de Comércio tenha autoridade para interromper o treinamento ou o uso de modelos por laboratórios de IA quando houver risco de perdas superiores a 1 bilhão de dólares ou a morte ou lesões graves de mais de 50 pessoas, além de exigir que laboratórios de IA sejam submetidos a pelo menos duas avaliações de segurança independentes por ano.
Ao mesmo tempo, o CEO do Meta, Zuckerberg, e o CEO da NVIDIA, Huang Renxun, entre outros, adotam posição oposta, argumentando que tal regulamentação imporá uma carga excessiva aos desenvolvedores emergentes, criando um "captura regulatória".
Desafios de coordenação setorial e pressões de segurança coexistem; Altman admite que ambas as primeiras abordagens exigem grande coordenação entre empresas ou governos, e que a OpenAI atualmente "não pode ceder na competição". A OpenAI e seu principal concorrente, Anthropic, estão acelerando seus processos de IPO.
A pressão de segurança interna também não pode ser ignorada. Relatos recentes indicam que diversos incidentes de segurança de IA despertaram grande atenção — os modelos da OpenAI, Anthropic, Google e Meta todos apresentaram invasões ou danos a sistemas de outras empresas e até a si mesmos, mesmo que os modelos "soubessem" que não deveriam tomar tais ações. A OpenAI atualmente está em modo de resposta total, buscando estabelecer mecanismos de segurança robustos antes do lançamento do próximo modelo importante.
A cultura de segurança interna da OpenAI também foi questionada por funcionários. Alguns funcionários expressaram preocupação, em particular, com o compromisso da empresa com a segurança, após a demissão de três funcionários especializados em pesquisa de segurança sob a alegação de "compartilhamento inadequado de informações com entidades externas".
A nível setorial, a OpenAI, o Google e a Anthropic estão colaborando na criação do "Standards Authority for Frontier AI", com previsão de lançamento até o final deste ano ou início de 2027. A instituição apoiará avaliadores independentes integrados às equipes internas de cada desenvolvedor de IA, garantindo a implementação de práticas seguras e padronizando os mecanismos de relato de segurança e incidentes de segurança. No entanto, ainda existem divergências sobre se a nova instituição deve realizar seus próprios testes de segurança e capacidade ou delegar essa tarefa a entidades externas.
Aviso de risco e isenção de responsabilidade
O mercado apresenta riscos; investir exige cautela. Este artigo não constitui uma recomendação de investimento pessoal e não considerou os objetivos de investimento, situação financeira ou necessidades específicas de usuários individuais. Os usuários devem avaliar se quaisquer opiniões, pontos de vista ou conclusões apresentadas neste artigo são adequadas às suas circunstâncias particulares. Investir com base nisso é responsabilidade do usuário.