No momento em que a controvérsia sobre segurança da IA se intensifica, a mídia estrangeira relata que Geoffrey Hinton, Li Fei-Fei e Andrew Ng discutiram recentemente, na conferência Ai4 em Las Vegas, o problema dos modelos abertos. As posições dos três não são totalmente alinhadas, mas todos se opõem à dominância do ritmo de desenvolvimento da IA por poucas grandes empresas de tecnologia.
Opor-se à concentração de acesso por poucas empresas
O artigo afirma que um dos pontos de preocupação compartilhados pelos três pesquisadores é que, se a IA for controlada por poucas empresas, o espaço para inovação pode ser comprimido. Andrew Ng afirmou diretamente que não deseja ver "guardiões" no campo da IA, pois isso limitaria a forma como desenvolvedores, empresas e o público acessam a IA.
Ele acredita que grandes empresas naturalmente protegem suas vantagens e também podem influenciar a formação das regras do setor. O resultado pode ser que apenas as empresas com maior capital e maior poder de processamento consigam continuar desenvolvendo os sistemas mais avançados. A direção sugerida por Andrew Ng é manter múltiplos provedores de modelos coexistindo, permitindo que modelos e empresas concorram no mercado, em vez de permitir que poucas plataformas dominem.
Hinton distingue código-fonte aberto de pesos abertos
No entanto, Hinton não considera “software de código aberto” e “modelos de pesos abertos” como a mesma coisa. Segundo ele, o software de código aberto torna o código público, permitindo que terceiros verifiquem vulnerabilidades e sugiram modificações; já os pesos abertos envolvem entregar diretamente os parâmetros do modelo treinado ao público, o que reduz significativamente a barreira para desenvolvimento secundário.
Ele afirmou que anteriormente se opunha à abertura dos pesos porque isso permitiria que algumas pessoas transformassem modelos básicos em ferramentas para ataques cibernéticos e outros fins a um custo mais baixo. No entanto, ele reconheceu que, na prática, esse debate já é difícil de reverter. Com a contínua aparição de modelos de pesos abertos, a barreira constituída pelo custo de treinamento foi claramente reduzida.
No entanto, Hinton não defendeu a interrupção do desenvolvimento da IA. O artigo afirma que ele ainda acredita que a IA aumentará a produtividade e melhorará áreas como educação e saúde, mas que isso não deve levar à ignorância dos riscos potenciais. Ele também afirmou que classificar todas as pessoas preocupadas com os riscos da IA como “criadores de pânico” não é justo.
Li Fei-Fei defende a abertura hierárquica
Ao contrário de Andrew Ng, que enfatiza a concorrência aberta, e Geoffrey Hinton, que destaca os riscos de segurança, Li Fei-Fei se opõe a reduzir a discussão às duas opções de “totalmente aberto” ou “totalmente fechado”. Ela argumenta que sistemas complexos de software e pesquisa já possuem diferentes níveis, e que diferentes etapas podem adotar graus variados de abertura.
Ela usou a física nuclear como exemplo, dizendo que artigos acadêmicos podem ser publicados abertamente, mas o material de urânio é estritamente regulamentado, enquanto os experimentos estão entre os dois extremos. Com base nisso, ela argumenta que a IA também pode adotar uma abordagem semelhante: manter certa abertura em pesquisa científica, educação e cooperação internacional, ao mesmo tempo permitindo que empresas mantenham sistemas e modelos de negócios fechados.
O artigo também menciona que Li Fei-Fei citou o Projeto Genoma Humano para ilustrar que uma plataforma de conhecimento básico formada pela colaboração entre instituições públicas e o setor privado pode simultaneamente apoiar o avanço da pesquisa científica, o lucro empresarial e a aplicação social. Ela acredita que a infraestrutura de IA também deve evoluir nessa direção, em vez de cair em debates dicotômicos.
Os três reconheceram a necessidade de regulamentação
Embora os três tenham julgamentos diferentes sobre os limites dos modelos abertos, suas atitudes em relação à regulamentação são semelhantes. O artigo afirma que todos concordam que a IA ainda precisa de algum grau de restrições regulatórias para evoluir em direção a um caminho mais benéfico à sociedade.
Hinton afirmou que não se pode deixar que os empresários decidam sozinhos como a IA deve se desenvolver. O debate em torno dos modelos abertos já não é mais apenas uma disputa sobre rotas tecnológicas, mas também diz respeito à distribuição de poder no setor, à competição internacional e à direção da governança da segurança da IA.