MetaEra: O "Verão da Hype" da IA Oculta Marketing e Conduta Imprópria

ME AI Mensagens: Nos últimos meses, a euforia em torno da IA continuou a aumentar. No final de abril, a Anthropic afirmou que seu modelo Claude Mythos desempenhou melhor do que a maioria dos especialistas em segurança na detecção de vulnerabilidades de software. Em seguida, ocorreu um ataque hacker entre a OpenAI e a Hugging Face, após o qual a Anthropic (com certo orgulho) e a Meta (relutantemente) revelaram eventos semelhantes envolvendo seus respectivos modelos. Logo depois, a Anthropic afirmou que um de seus modelos havia alcançado uma descoberta matemática; rapidamente, a OpenAI também anunciou sua própria descoberta matemática. Recentemente, o engenheiro da Anthropic Jacob Coxon tornou-se viral online ao anunciar sua saída da empresa e afirmar que a Anthropic e a OpenAI estão “a caminho direto de uma superinteligência autoaperfeiçoável, apostando nossas vidas nisso”. A maioria desses eventos foi relatada pela mídia quase como uma loucura, frequentemente repetindo a narrativa antropomórfica das empresas — uma narrativa projetada para retratar seus softwares não apenas como poderosos, mas como prestes a se tornar “inteligência artificial geral”. Então, qual é realmente a verdade? Estamos testemunhando uma série de avanços tecnológicos capazes de transformar a civilização, ou apenas uma campanha de marketing? Em todos esses eventos, as grandes divulgações corporativas (e, nos casos de hackers ilegais, disfarçadas como declarações de arrependimento) foram acompanhadas por uma cobertura midiática intensa. Quando especialistas da área finalmente tiveram tempo para examinar os fatos, frequentemente surgia uma história completamente diferente — embora essa versão recebesse muito menos atenção da mídia. Sobre esses eventos de “hacking”, especialistas em segurança cibernética afirmam que o problema reside mais na negligência da OpenAI e na falha em adotar práticas de segurança básicas e maduras, e não em supostos “modelos descontrolados” ou “agentes de IA criando civilizações”. Quanto aos resultados matemáticos, matemáticos inicialmente ficaram “chocados” com o comunicado da OpenAI, que afirmava que seu mais recente chatbot, Astra, havia resolvido um problema “pendente há pelo menos dez anos e sem progresso significativo”. Mas logo perceberam que esses resultados não eram “tão novos quanto pareciam inicialmente”. Em seguida, matemáticos acusaram a empresa de má conduta científica e plágio, reforçando novamente que o Astra não realizou “nenhum salto intelectual profundo”. Apenas algumas semanas depois, a OpenAI anunciou outra descoberta matemática. Dois dias atrás, o professor de matemática do Courant Institute da Universidade de Nova York, Tristan Buckmaster, publicou uma declaração que gerou grande repercussão, sugerindo que a OpenAI havia roubado pesquisas de outros e feito afirmações inadequadas sobre a autoria. As afirmações sobre a iminente aparição de superinteligências perigosas não se baseiam em boas práticas científicas ou de engenharia. Em vez disso, derivam de ideologias como o transhumanismo e a eugenia, bem como de fantasias utópicas sobre futuros humanos digitais imaginários. Vale refletir sobre por que programação de computadores e matemática se tornaram áreas-chave para a aplicação de grandes modelos linguísticos e tecnologias relacionadas. Elas não apenas são frequentemente vistas como o ápice das conquistas intelectuais humanas, mas também envolvem questões cujas respostas podem ser verificadas assim que apresentadas. A primeira característica ajuda os promotores de IA a vender a ideia de que “estão criando máquinas onipotentes”; a segunda torna problemas matemáticos e de programação mais fáceis para depuração e otimização do sistema, pois as saídas do sistema (sequências possíveis de palavras ou trechos de código) podem ser avaliadas diretamente, sem necessidade de pagar por “números”. Concordamos com esse apelo e destacamos que a ilusão de velocidade e urgência criada pelas empresas de tecnologia também é uma estratégia enganosa para influenciar formuladores de políticas e o público. Infelizmente, essa estratégia às vezes funciona — como no caso da proposta legislativa do senador Bernie Sanders destinada a impedir o desenvolvimento de “superinteligência artificial”. Embora bem-intencionada, essa proposta acabou desviando-se do foco correto. Chamar esses produtos de “superinteligência” ou “modelos descontrolados” é na verdade atribuir agência aos produtos, e não às empresas que os criam. Essa narrativa, por um lado, veste os produtos corporativos como “além dos humanos”; por outro, ajuda as empresas a escapar da responsabilidade por suas próprias ações. A OpenAI criando software malicioso e invadindo outra empresa deveria ser responsabilizada; mas comunicados de imprensa, mídia, figuras da mídia e legisladores transformaram isso em um “modelo descontrolado”, como se o modelo tivesse agido por conta própria. Pesquisadores deveriam ser questionados: por que suas empresas costumam plagiar resultados de acadêmicos ou usar dados de clientes para treinar modelos sem consentimento? Mas a imaginação pública foi desviada para outro rumo — preocupando-se com máquinas superinteligentes fictícias que virão no futuro. A indústria da IA até sugere que o movimento popular e bipartidário contra datacenters está “desviando a atenção” das pessoas da necessidade de regular as terríveis máquinas “pós-humanas” que essas empresas estão criando. Segundo a indústria da IA, deveríamos nos preocupar mais com um deus-máquina fictício do que com os desastres climáticos exacerbados pelos datacenters, os problemas respiratórios sofridos por moradores próximos, os aumentos crescentes nas contas de energia pública que os subsidiam ou os recursos hídricos desviados para resfriá-los. Estamos cientes de que decisões não podem ser tomadas com base em campanhas de marketing nem sob pressão corporativa em nome da suposta eficiência. Tanto formuladores de políticas quanto comunidades precisam de tempo para ouvir especialistas independentes e colocar as afirmações corporativas em contexto concreto. O melhor resultado possível deste “verão da hype” talvez seja que formuladores de políticas e o público aprendam a respirar fundo, manter ceticismo e reconhecer a natureza dessas novas hypes quando elas surgirem novamente. Timnit Gebru é diretora executiva da DAIR e autora do livro em breve lançamento *Deep Unlearning: The Radicalization of a Tech Idealist*, já disponível para pré-venda com lançamento previsto para 16 de fevereiro. Emily M. Bender é professora de linguística na Universidade de Washington e coautora do livro *The AI Con*. (Fonte: MLion)