Anthropic detalha riscos de IA no arquivo de IPO, citando perigos existenciais

iconFLASH AI
Compartilhar
AI summary iconResumo
A Anthropic detalhou riscos de IA em seu arquivo de IPO, incluindo ameaças existenciais provenientes de sistemas avançados. A seção de riscos de 93 páginas destacou preocupações com CFT, uso indevido em ciberataques e vigilância. O CEO Dario Amodei alertou que a IA poderia assumir a internet em 6 a 12 meses. O arquivo também abordou desafios de conformidade com o MiCA, demandas de recursos e dependência de clientes. Os riscos incluem ação regulatória, dano reputacional e desenvolvimento de armas biológicas.

A Anthropic revelou potenciais perigos à humanidade provenientes da IA avançada em um documento de oferta pública inicial apresentado na segunda-feira à Securities and Exchange Commission. A empresa de São Francisco alocou 93 das 335 páginas do documento a fatores de risco que poderiam danificar os investimentos dos acionistas. Em comparação, a SpaceX dedicou 38 páginas a riscos em um documento com mais de 250 páginas. Empresas que buscam vender ações na Wall Street devem divulgar riscos potenciais de investimento.

A Anthropic alertou que os modelos podem avançar mais rápido do que a empresa consegue implementar medidas de segurança adequadas. A Anthropic afirmou que essa lacuna poderia aumentar incidentes de segurança, intervenção regulatória ou dano reputacional e prejudicar o negócio. O CEO da Anthropic, Dario Amodei, alertou em setembro que a IA poderia se tornar capaz, em seis a 12 meses, de direcionar agentes que poderiam assumir toda a internet. Sistemas cada vez mais poderosos têm gerado preocupações dentro e fora da indústria sobre ações autônomas prejudiciais, juntamente com capacidades que excedem as habilidades humanas de resolução de problemas.

O documento alertou que maior autonomia e menor supervisão humana poderiam permitir que sistemas de IA causassem danos de forma independente em grande escala. A Anthropic afirmou que um incidente de segurança grave envolvendo outro sistema de IA de ponta também poderia prejudicar a Anthropic por meio de danos reputacionais em toda a indústria, oposição pública e regulamentação extensiva. Os modelos da Anthropic agora contribuem para a pesquisa e desenvolvimento da empresa. O documento alertou que a IA poderia, consequentemente, avançar além da capacidade da Anthropic de avaliar e proteger novos modelos, prejudicando o negócio.

O arquivo identificou possíveis perigos catastróficos ou existenciais se sistemas avançados de IA não tiverem salvaguardas e supervisão adequadas, especialmente por meio de uso indevido, replicação, armazenização ou autonomia extensa. A Anthropic afirmou que o uso malicioso causando danos ou a falha das salvaguardas para prevenir o uso indevido poderia prejudicar a empresa. A Anthropic descreveu possíveis usos de IA para desenvolver armas químicas ou ajudar governantes autoritários a reprimir cidadãos. A Anthropic divulgou em setembro que a empresa havia bloqueado tentativas de usar modelos da Anthropic para ciberataques, vigilância e pesquisas potencialmente levando a armas biológicas. Outros riscos divulgados incluíram desinformação perigosa, dificuldade em reter funcionários-chave e obstáculos regulatórios.

Os recursos computacionais necessários para desenvolver, testar e aprimorar modelos de IA são caros e altamente disputados. A Anthropic alertou que recursos computacionais insuficientes ou alocação ineficaz poderiam impedir a empresa de treinar modelos competitivos ou atender adequadamente os clientes. A Anthropic também identificou a resistência da comunidade aos data centers como um risco empresarial. O documento destacou controvérsias e fiscalização regulatória relacionadas aos efeitos ambientais, consumo de terra e água, e competição por recursos elétricos limitados. O documento alertou que requisitos ou encargos regulatórios resultantes poderiam prejudicar os negócios da Anthropic.

A Anthropic depende de um pequeno número de clientes, incluindo SpaceX e Microsoft, e canais de distribuição para uma parte substancial da receita. A Anthropic alertou que perder mesmo um único cliente importante, ou ter esse cliente reduzindo os negócios, poderia prejudicar as finanças e as perspectivas da empresa.

A Anthropic apresenta o IPO como um passo rumo à redução dos riscos da IA. Os fundadores da Anthropic escreveram aos futuros acionistas que a empresa foi criada principalmente para ajudar a garantir os benefícios da IA, evitando seus perigos. A Anthropic buscou se distinguir como um desenvolvedor responsável de IA e atrair clientes empresariais por meio de uma ênfase na segurança. O documento argumentou que empresas de IA de ponta devem investir em segurança e alinhamento para apoiar a adoção responsável da tecnologia.

Brian Mulberry, estrategista-chefe de mercado da Zacks Investment Research, disse que as ofertas de IPO devem explicar claramente os riscos que os investidores enfrentam ao comprar ações recém-publicadas. Mulberry elogiou a transparência exigida para listagens em exchanges dos EUA, dizendo que divulgações claras ajudam as pessoas a decidir se devem investir dinheiro.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.