O que mais me incomoda na Anthropic é que ela realmente acredita que, apenas por achar que está fazendo o bem, pode tomar muitas decisões em nome dos usuários. Ela acabou de publicar um relatório de Inteligência de Ameaças de 154 páginas, reunindo casos em que o Claude foi usado para ataques cibernéticos, fraudes, pesquisas biológicas, desenvolvimento de armas e model distillation. Como esses casos foram descobertos? A Anthropic monitora como os usuários utilizam o Claude, identifica contas que considera problemáticas, investiga mais a fundo, analisa seus padrões de uso e decide se esses usuários ultrapassaram os limites. Se considerar risco, suspende a conta. Depois, organiza tudo isso em um relatório, explicando publicamente o que descobriu e o que impediu. E esse tipo de coisa a Anthropic já fez muitas vezes. Ela usa diálogos reais entre usuários e o Claude para estudar o que as pessoas realmente conversam com IA, como dependem dela, quais são seus valores e em quais situações geram certas emoções. Ela diz que os dados foram anonimizados e que essas pesquisas visam tornar a IA mais segura. Mas acho que isso é exatamente arrogante. Por que, apenas porque você diz “para a segurança da IA”, você pode observar o que os usuários estão fazendo? Por que você acha que isso merece ser estudado, e então seus dados podem ser usados para pesquisa? Se ela considerar que certo comportamento de investimento é muito arriscado, certa discussão política pode causar dano, certo conteúdo adulto viola seus princípios ou certa pesquisa de IA é muito perigosa — será que ela também pode olhar, restringir e banir? Seguindo a lógica atual da Anthropic, é claro que pode. Porque ela sempre pressupôs uma coisa: A Anthropic sabe melhor do que os usuários o que deve ou não ser feito. É por isso que nunca acreditei na narrativa da “segurança da IA” da Anthropic. Uma empresa que se diz constantemente preocupada com IA tomando decisões por humanos, agora se acostumou cada vez mais a tomar decisões por seus usuários. É muito velho. Velhos são destinados a ser derrotados.