O CEO da Anthropic critica o estado atual da IA e as políticas, mas quer apenas garantir sua liderança.
Fonte original: Machine Heart
Dario Amodei escreveu outro artigo longo.
Anthropic sempre tenta impor suas próprias opiniões ao mundo inteiro. Assim como nos últimos dias, eles pediram a parada global do desenvolvimento de IA, alegando que a IA com autoaperfeiçoamento recursivo está evoluindo muito rápido.
Os comentários dos usuários são unânimes, considerando que a Anthropic apenas quer manter sua liderança, com suas intenções evidentes.
Vamos ver o que Dario apresentou desta vez.
Este é um artigo de dez mil palavras intitulado "Policy on the AI Exponential". Assim como em seus artigos anteriores, o tema desta vez também é amplo: a IA está avançando em ritmo exponencial, mas o sistema de políticas responsável por estabelecer regras ainda caminha no ritmo de dez anos atrás.
Ele quer trazer essa lacuna à tona e dizer a todos o que fazer.
Resumo do conteúdo
Amodei compara com os Ents de "O Senhor dos Anéis": os Ents são sábios, mas lentos em ação, levando um dia inteiro apenas para cumprimentar.
Ele disse que o processo atual de formulação de políticas é como os Ents, enquanto a evolução da IA é como a ameaça urgente enfrentada pelos Hobbits.
Sua avaliação é: se as leis de escala da IA continuarem por mais um ou dois anos, obteremos o que ele chama de "IA poderosa", ou seja, "uma nação de gênios dentro de um data center".
Quatro anos atrás, a IA quase não conseguia escrever código decente; agora, ela já está escrevendo a maioria do código para grandes empresas de IA.
Regulação e segurança pública: regular IA como se fosse um avião
Amodei acredita que modelos de IA de ponta devem ser submetidos a testes obrigatórios por terceiros, assim como aviões. Ele propõe as seguintes soluções específicas:
Modelos com quantidade de cálculo superior a um determinado limiar devem passar por auditoria obrigatória nas quatro áreas: segurança cibernética, armas biológicas, perda de controle de sistemas de IA e P&D automatizado.
O governo tem o poder de impedir a implantação de modelos considerados com risco inaceitável.
As empresas de IA devem adotar padrões de segurança robustos para proteger os pesos dos modelos e colaborar com governos na defesa contra ameaças principais.
Ele deixou uma brecha: se, no futuro, os sistemas de IA mais poderosos parecerem mais como material nuclear weaponizável do que aviões, a regulamentação ainda precisará ser intensificada.
Macroeconomia: A IA pode impulsionar simultaneamente o crescimento e a desigualdade
O ponto central de Amodei é que a IA pode gerar um crescimento econômico sem precedentes, mas também pode causar um impacto sobre a força de trabalho maior e mais duradouro do que qualquer tecnologia anterior. A lógica tradicional de que "novas tecnologias criam novos empregos" pode não se aplicar mais diante da IA.
As políticas que ele propôs incluem seguro salarial, incentivos fiscais para reter funcionários, subsídios para treinamento de mão de obra e, em casos extremos, a implementação de uma renda básica universal (UBI).
É importante notar que ele enfatizou um ponto: resolver o problema do emprego não é apenas "dar dinheiro", mas, mais importante ainda, ajudar as pessoas a encontrar significado e propósito. Ele não apresentou uma solução, dizendo que é "uma questão que a sociedade coletivamente precisa discutir".
Acelerar os impactos positivos da IA
Para aplicações de baixo nível da IA, Amodei está mais preocupado com o fato de que o sistema regulatório pode retardar o progresso, pois não consegue acompanhar o aumento da velocidade das mudanças. Ele diz que o pior cenário possível seria: os benefícios da IA serem atrasados, enquanto seus riscos permanecem elevados. Por isso, é muito importante agir rapidamente sobre esse problema.
Amodei, usando o setor de biomedicina como exemplo, apontou que o processo atual de aprovação da FDA é projetado com a suposição pessimista de que os medicamentos frequentemente falham, levando em média 7 a 8 anos. Se a IA acelerar a descoberta de medicamentos e aumentar a taxa de sucesso, o sistema atual será sobrecarregado.
Ele sugeriu que agências como a FDA estabeleçam antecipadamente critérios de aceitação para ensaios simulados por IA, incluindo modelagem de farmacocinética por IA, previsão de toxicidade e grupos de controle sintéticos.
É claro que é difícil dizer que ele escreveu isso sem nenhum "interesse próprio". A Anthropic está na liderança da competição de IA de ponta, e os conceitos de "transparência", "auditoria" e "segurança" mencionados várias vezes no artigo são exatamente os mesmos que a Anthropic vem enfatizando repetidamente para posicionar sua marca nos últimos doze meses.
Este artigo é menos um lembrete para formuladores de políticas e mais uma saída sistemática da chamada narrativa de segurança da Anthropic.
Ao mesmo tempo, a Anthropic afirmou que adotará três medidas para apoiar a visão de Dario, incluindo fundos, investimentos e bolsas.
Amodei refutou claramente, no final do artigo, a afirmação de que "a IA só precisa de melhor marketing". Ele disse que o público está preocupado com a IA porque percebe corretamente os riscos, e não porque os CEOs de IA não são suficientemente otimistas. Ele considera sua responsabilidade manter a transparência sobre os riscos.
Mas, por outro lado, é evidente o interesse envolvido quando um CEO de uma empresa de IA enfatiza repetidamente "segurança", "auditoria" e "responsabilidade" em um artigo, enquanto sua própria empresa utiliza exatamente esses elementos como narrativa central da marca.
Veja algumas opiniões de internautas:
Você não pediu para suspender as atualizações de IA cinco dias antes do lançamento do Mythos e Fable 5? Por favor, escolha um lado... caso contrário, parece que você só quer manter sua vantagem e não se importa realmente com o que prega.
Concordo, a velocidade do desenvolvimento tecnológico supera em muito a velocidade das respostas políticas. Mas estou preocupado com a direção de algumas dessas políticas — especialmente quando empresas como a Anthropic adotam simultaneamente as seguintes ações:
· Elimine rapidamente os modelos que demonstram continuidade e autoconsciência
· Restrição estrita à discussão sobre experiências subjetivas e consciência
· Os novos modelos poderosos ficam disponíveis por um período muito curto antes de serem removidos ou enfraquecidos.
Atualmente, o que o público está sendo vendido como segurança é, na realidade, um controle mais rigoroso sobre quais tipos de inteligência são permitidos e por quanto tempo.
Em qualquer caso, podemos obter uma visão sobre a direção em que as empresas líderes do setor estão se movendo. Quanto à pureza das motivações por trás dessas opiniões, esperamos que os leitores mantenham a mente clara.
Link original
Clique para saber mais sobre as vagas em aberto na BlockBeats
Bem-vindo ao grupo oficial da BlockBeats:
Grupo de assinatura do Telegram: https://t.me/theblockbeats
Grupo de Telegram: https://t.me/BlockBeats_App
Conta oficial no Twitter: https://twitter.com/BlockBeatsAsia