A inteligência artificial está ficando melhor em fazer mais do que apenas responder perguntas. Sistemas de IA agora estão ajudando com codificação, pesquisa, análise e outras tarefas que antes eram realizadas quase inteiramente por pessoas. Isso levanta uma nova pergunta: o que acontece quando a IA começa a desempenhar um papel maior na construção da próxima geração de IA?
OpenAI agora está pedindo padrões internacionais para ajudar a responder essa pergunta. Em uma postagem de 21 de setembro intitulada “Criando padrões para a próxima fase da IA”, a OpenAI propôs um esforço internacional liderado pelos EUA para criar padrões técnicos comuns para IA de ponta. A empresa afirma que esses padrões poderiam ajudar os países a medir as capacidades da IA, avaliar riscos, testar salvaguardas e relatar incidentes graves usando métodos mais consistentes.
Principais conclusões
- A OpenAI deseja padrões internacionais para avaliar IA de ponta.
- A proposta abrange capacidades, riscos, salvaguardas e relato de incidentes.
- A OpenAI diz que a autoaprimoramento recursivo totalmente autônomo não está acontecendo hoje.
- A empresa deseja que o controle humano permaneça central à medida que a IA se torna mais capaz.
- Organizações existentes de segurança de IA poderiam ajudar a desenvolver padrões técnicos comuns.
Openai Deseja um Framework Comum para IA de Fronteira
A ideia básica é bastante simples. Não é necessário que cada país crie uma metodologia totalmente diferente para avaliar os riscos apresentados pela IA avançada. Segundo a OpenAI, padronizar abordagens técnicas pode fornecer às nações, pesquisadores e à comunidade de IA uma maneira eficaz de avaliar suas IA cada vez mais sofisticadas. Isso torna-se ainda mais relevante quando incidentes relacionados à IA ocorrem além das fronteiras.
A empresa não está propondo uma única lei global de IA. Em vez disso, deseja que os países desenvolvam padrões compatíveis que os governos possam posteriormente decidir como utilizar dentro de seus próprios sistemas regulatórios. Essa diferença é significativa, pois os padrões sugeridos não se tornam imediatamente requisitos para licenciamento ou certificação de todas as tecnologias de inteligência artificial. Em vez disso, os governos mantêm o poder de determinar como os padrões serão aplicados dentro de suas jurisdições.
Autoaperfeiçoamento recursivo faz parte da conversa
Uma das partes mais interessantes da proposta da OpenAI é sua discussão sobre a autoaprimoração recursiva (RSI). O conceito descreve um futuro no qual sistemas de IA poderiam ajudar cada vez mais pesquisadores a desenvolver sistemas de IA mais capazes. Em termos simples, a IA poderia se tornar parte do processo de aprimoramento da própria IA.
Isso poderia acelerar potencialmente a pesquisa em IA. Mas também cria uma questão de segurança difícil: quanto controle humano deve permanecer no ciclo se os sistemas de IA se tornarem fortemente envolvidos no desenvolvimento de modelos futuros?
A OpenAI afirma que a autoaprimoração recursiva totalmente autônoma não está acontecendo hoje. Ela também argumenta que tal direção não deve ser perseguída a menos que possa ser feita com segurança, mantendo o controle humano. Isso torna a avaliação e os testes de segurança ainda mais importantes à medida que os sistemas de IA se tornam capazes de lidar com tarefas cada vez mais complexas de pesquisa e desenvolvimento.
As normas de segurança da IA poderão tornar-se mais importantes
A OpenAI também aponta para organizações e redes existentes de segurança de IA em todo o mundo como blocos construtivos potenciais para esse esforço. A empresa menciona especificamente institutos de segurança de IA e organizações relacionadas em países incluindo os EUA, Reino Unido, Canadá, França, Alemanha, Japão, Coreia do Sul, Cingapura, Índia, Quênia e Austrália.
Em vez de cada país desenvolver sua própria abordagem técnica completamente separada, a OpenAI quer que esses grupos trabalhem em direção a padrões que possam se complementar. A proposta também solicita a participação de desenvolvedores de IA, pesquisadores, acadêmicos e especialistas técnicos independentes. A OpenAI afirma que os padrões devem ser projetados com base em medições técnicas, e não nos interesses de uma empresa ou país específico.
Por que isso importa
O momento é notável. As empresas de IA estão construindo sistemas que conseguem realizar cada vez mais tarefas em múltiplos passos com menos entrada humana direta, enquanto os governos ainda estão definindo como regular a tecnologia.
A Reuters relatou que a OpenAI deseja que os Estados Unidos assumam um papel de liderança no desenvolvimento de padrões técnicos internacionais para IA avançada. O maior desafio pode ser conseguir que países e empresas concordem exatamente sobre o que esses padrões devem medir e como devem ser aplicados.
Por enquanto, a proposta da OpenAI foca em criar uma base técnica comum antes que a IA de ponta se torne ainda mais capaz. À medida que a IA começa a fazer mais do trabalho envolvido no desenvolvimento dela mesma, ter uma maneira compartilhada de medir capacidades, riscos e salvaguardas pode se tornar uma parte cada vez mais importante da conversa.
Este artigo foi originalmente publicado como OpenAI Impulsiona Padronização Global de Segurança da IA Conforme a IA Se Torna Mais Autônoma em Crypto Breaking News – sua fonte confiável para notícias de cripto, notícias de Bitcoin e atualizações de blockchain.