Tal Feldman e Ibrahim Dagher argumentam que a cibersegurança fraca nas principais empresas de inteligência artificial dos EUA ameaça a vantagem do país sobre a China. Feldman e Dagher afirmam que Washington pode exigir segurança mais robusta sem aprovar outra lei. Os autores sustentam que o debate público examinou corretamente agentes de IA atacando outras empresas, mas negligenciou se as empresas de IA conseguem prevenir intrusões.
A OpenAI descobriu recentemente que um funcionário da Arábia Saudita supostamente instalou um dispositivo de gravação de áudio em uma sala de reuniões executivas. Funcionários sênior discutem regularmente materiais confidenciais, incluindo pesquisas proprietárias, nessa sala na sede da OpenAI em São Francisco. Em julho, três pesquisadores que investigavam falhas de segurança invadiram os sistemas da OpenAI e acessaram um repositório interno de código contendo segredos algorítmicos. A OpenAI pagou aos pesquisadores uma recompensa de US$ 6.500 por relatar as vulnerabilidades. Os pesquisadores completaram a invasão em menos de 72 horas, sem ferramentas de hacking particularmente avançadas. Um dos pesquisadores disse ao The Wall Street Journal: "Somos apenas três caras com assinaturas de Claude e Codex", referindo-se a agentes de codificação publicamente disponíveis da Anthropic e da OpenAI. Um hacker também invadiu o sistema interno de mensagens da OpenAI em 2023 e obteve informações sobre a pesquisa da OpenAI. A OpenAI não notificou nem o FBI nem o público sobre essa invasão.
Feldman e Dagher argumentam que países como a China possuem as ferramentas avançadas, o tempo e o incentivo necessários para infiltrar empresas de IA dos EUA. Os autores afirmam que roubar modelos líderes dos EUA permitiria aos concorrentes alcançar o patamar sem pagar os custos de desenvolvimento. Os autores alertam que restrições às vendas de chips avançados e bilhões investidos em infraestrutura de IA não terão efeito a menos que os laboratórios levem a cibersegurança a sério. Os autores argumentam que os três incidentes provavelmente indicam um problema de segurança mais amplo.
As empresas de IA reconheceram abertamente defesas inadequadas contra espionagem sofisticada. O CEO da Anthropic, Dario Amodei, disse em 2023 que um governo que tornasse o roubo de pesos de modelo uma prioridade máxima teria sucesso contra a Anthropic. Os pesos do modelo são trilhões de valores numéricos gerados por meses de treinamento caro que constituem um modelo de IA. No entanto, o relatório de risco da Anthropic deste agosto ainda afirmou que a Anthropic não conseguiria resistir a atacantes estaduais e "não acredita que qualquer desenvolvedor de IA de ponta atualmente cumpra esse padrão". O ex-pesquisador da Anthropic e da OpenAI, Jacob Coxon, argumentou que nenhuma vantagem dos EUA poderia durar, pois Pequim poderia roubar o progresso dos EUA sempre que escolhesse. Miles Brundage, que trabalhou na preparação da OpenAI para IA avançada, disse que as empresas de IA nem sequer reivindicam a capacidade de impedir atores estatais de roubar ou alterar os pesos do modelo.
Pesquisadores da Rand identificaram 38 métodos para roubar pesos de modelos, incluindo plantar dispositivos portáteis, alterar hardware antes da instalação e subornar ou coagir funcionários. Os centros de dados de empresas de nuvem fornecem outro ponto de entrada, pois laboratórios de IA frequentemente usam essas instalações para treinar e operar modelos. Os segredos algorítmicos da indústria também carecem de proteção adequada. Amodei disse ao Conselho de Relações Exteriores no ano passado que alguns segredos da indústria de IA, valendo "$100 milhões", correspondem a apenas algumas linhas de código. Amodei afirmou que certamente há pessoas tentando roubar esses segredos e que já podem estar conseguindo.
As empresas de IA estão competindo intensamente para desenvolver superinteligência. O dinheiro e o tempo dos funcionários dedicados à cibersegurança não podem ser também dedicados ao treinamento do próximo modelo. A Anthropic argumentou que resistir a atacantes estaduais bem financiados deve ser uma prioridade da cibersegurança da indústria. No entanto, a Anthropic disse que a empresa "não pode se comprometer a seguir" essa prioridade independentemente.
No ano passado, o Congresso instruiu o Departamento de Defesa a estabelecer requisitos de segurança para a IA adquirida e aplicar esses requisitos aos contratantes e provedores de nuvem relevantes. O Departamento de Defesa ainda não iniciou o processo público de emenda regulamentar 10 meses depois. O Departamento de Comércio pode tornar exportações modelo sujeitas a licenciamento e limitar licenças a laboratórios que atendam aos requisitos de segurança. A administração Trump usou essa autoridade para forçar a Anthropic a sacar Mythos e Fable do mercado em junho. O governo federal também pode anexar condições de segurança a empréstimos e locações de terras que apoiam a construção de centros de dados. Sob essa abordagem, apenas empresas de IA que atendam a rigorosos requisitos de segurança poderiam obter financiamento federal ou usar terras públicas. Feldman e Dagher concluem que um governo estrangeiro com financiamento substancial e tempo ilimitado certamente poderia infiltrar a OpenAI, se três pesquisadores usando assinaturas do Claude pudessem fazer isso em três dias.
Empresas de IA enfrentam riscos de cibersegurança amid preocupações com espionagem
FLASH AICompartilhar
Resumo
O índice de medo e ganância sinaliza aumento da ansiedade enquanto empresas norte-americanas de IA enfrentam ameaças crescentes de espionagem. A OpenAI sofreu violações, incluindo uma suposta intrusão de um funcionário saudita e uma penetração de código de 72 horas por pesquisadores. Feldman e Dagher alertam que a China e outros podem explorar essas falhas. A Anthropic admite que não consegue se defender totalmente contra ataques de estados-nacionais. O Pentágono adia mudanças nas regras de segurança da IA. Os traders são aconselhados a monitorar altcoins em meio à incerteza do mercado.
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.