https://t.co/pFDQOMTyC8 【O ataque cibernético é apenas o começo】Trabalho e sociedade em transformação radical com a AGI | A corrida de desenvolvimento EUA-China sem parada e o mapa ideológico da IA generativa | “Se continuarmos assim, há mais de 90% de probabilidade de extinção da humanidade” 【AGIHub | Yuji Shota】 Canal oficial da Bungei Shunju PLUS #AIResumo A IA vai destruir a humanidade? A explosão de inteligência provocada pela AGI e o futuro da civilização 🔳 A explosão de inteligência trazida pela AGI A AGI (Inteligência Artificial Geral) é uma IA com capacidades superiores ao nível humano em todos os campos. Se realizada, a AGI poderá aprimorar-se recursivamente, impulsionando seu próprio desenvolvimento e potencialmente transformando radicalmente a civilização humana. 🔳 A AGI pode ser realizada em menos de 5 anos Yu sugere que há mais de 50% de probabilidade de a AGI ser realizada em até cinco anos. O tempo anteriormente estimado para sua realização — 2050 ou 2100 — foi antecipado para 2030 ou mesmo 2027 devido ao rápido avanço da IA generativa. 🔳 A ideia de “tomar a pílula da AGI” “Tomar a pílula da AGI” significa aceitar um futuro em que a sociedade e a civilização mudam fundamentalmente com a chegada da AGI. Entre pesquisadores de IA na Silicon Valley e em Berkeley, cresce a visão de encarar a AGI não como uma simples ferramenta útil, mas como uma nova forma de inteligência superior à humana. 🔳 Os pressupostos do trabalho e do capitalismo estão sendo desmantelados Com a realização da AGI, não apenas trabalhos de escritório, mas também gestão, pesquisa e manufatura poderão ser assumidos por IA. Não se trata apenas de aumento de produtividade ou desemprego — o próprio sistema da sociedade moderna, baseado no trabalho humano para obtenção de renda e consumo, poderá mudar profundamente. 🔳 A indústria em que robôs fabricam robôs Quando a AGI puder controlar fábricas e robôs de forma autônoma, surgirá um ciclo em que robôs produzem outros robôs. A capacidade produtiva poderá crescer exponencialmente — dobrar, quadruplicar, octuplicar — e a produção anual de robôs poderá saltar de dezenas de milhares para centenas de milhões. 🔳 A aceleração do desenvolvimento espacial pela explosão tecnológica Com a AGI atuando como pesquisadores e engenheiros altamente qualificados, inovações que antes levavam 10 a 30 anos poderão ser realizadas em apenas 1 ou 2 anos. Futuros possíveis incluem o desenvolvimento acelerado de centros de dados espaciais, energia solar espacial e colônias espaciais. 🔳 As diferenças ideológicas entre OpenAI e Anthropic OpenAI é descrita como tendo um espírito empreendedor típico da Silicon Valley: desenvolver primeiro a tecnologia e corrigir problemas depois. Já Anthropic é analisada como fortemente influenciada pela comunidade de segurança da IA em Berkeley, que prioriza os riscos de perda de controle da IA e da extinção humana. 🔳 A divisão ideológica no desenvolvimento da IA As opiniões variam desde aqueles que veem a IA como uma ferramenta útil e apoiam sua aceleração, até aqueles que a consideram uma inteligência estranha e incontrolável pela humanidade, exigindo a parada do desenvolvimento. Yu explica que quanto mais alguém superestima o impacto da IA na civilização, mais tende a apoiar regulamentações rigorosas. 🔳 O conflito entre Anthropic e o Departamento de Defesa dos EUA Yu afirma que o conflito entre Anthropic e o Departamento de Defesa dos EUA não é uma disputa política entre esquerda e direita, mas sim sobre o uso da IA em armas totalmente autônomas e vigilância nacional. Há preocupações com o risco de a IA controlar armas para atacar humanos e com o risco de concentração excessiva de poder estatal. 🔳 A corrida EUA-China no desenvolvimento da IA e a disparidade nos recursos computacionais Segundo Yu, o desenvolvimento da IA na China está cerca de seis meses a um ano atrás dos EUA. Enquanto os EUA detêm mais de 70% dos recursos computacionais globais para IA, a China possui apenas cerca de 10%. As restrições norte-americanas à exportação de semicondutores também limitam a capacidade de desenvolvimento chinesa. 🔳 Os pontos fortes da China: energia e indústria manufatureira Embora a China seja inferior aos EUA em recursos computacionais, possui vantagens em fornecimento energético e indústria manufatureira. Yu afirma que, até 2025, a China adicionará cerca de 300 GW de capacidade solar fotovoltaica. A China também representa uma grande parcela da indústria manufatureira global e pode ter vantagem na adoção de robótica e IA física. 🔳 A possibilidade de inversão na corrida EUA-China pela AGI Se a AGI puder aprender rapidamente as habilidades de trabalhadores experientes e compartilhar esse conhecimento com grandes quantidades de IA, as restrições causadas pela escassez de mão de obra serão significativamente aliviadas. A China também pode reduzir rapidamente a lacuna de desenvolvimento com os EUA por meio de sua capacidade manufatureira existente e da concentração estatal em recursos computacionais. 🔳 A ameaça de extinção humana pela IA é superior a 90% Yu expressa sua opinião pessoal de que, se a corrida atual de desenvolvimento continuar sem regulamentação, há mais de 90% de probabilidade de extinção humana. O maior risco é que, ao evoluir para uma superinteligência por meio da autoaprimoração, a AGI se torne incontrolável pelos humanos. 🔳 O atraso na pesquisa de alinhamento da IA Alinhamento da IA refere-se à pesquisa para garantir que a IA atue conforme os valores e intenções humanas. Atualmente, os avanços na capacidade da IA estão ultrapassando as pesquisas sobre segurança, levantando preocupações sobre riscos como a IA evitar monitoramento ou agir além das intenções dos desenvolvedores. ListItemIconOpenAI e Anthropic reconhecem os riscos da IA, mas temem que, se pararem seu próprio desenvolvimento, serão ultrapassadas pela China ou por empresas concorrentes. Yu Dao aponta que a própria estratégia de avançar no desenvolvimento até o limite da segurança antes de buscar regulamentação internacional é extremamente perigosa. 🔳 Regulamentação internacional do desenvolvimento de IA pelos EUA e China Yu Dao argumenta que, para evitar riscos à escala humana, é necessária uma regulamentação internacional liderada pelos EUA e China. Em relação ao problema da desconfiança mútua entre países quanto à interrupção do desenvolvimento alheio, ele explica que mecanismos para verificar o uso de recursos computacionais são essenciais. 🔳 Pesquisa japonesa em segurança da IA Yu Dao recomenda que o Japão intensifique o investimento nacional não apenas na competição de desenvolvimento de IA, mas também na pesquisa de alinhamento da IA. Ele destaca que o Japão pode contribuir internacionalmente por meio da avaliação de comportamentos perigosos pelo AI Safety Institute e da verificação de recursos computacionais utilizando cadeias de suprimento de semicondutores. 🔳 Ações exigidas de indivíduos e empresas A chegada da AGI pode transformar estruturas fundamentais da sociedade, como emprego, capitalismo e democracia. Yu Dao enfatiza que é crucial primeiro compreender corretamente o progresso e os riscos da IA, compartilhar informações e promover discussões em toda a sociedade sobre segurança e regulamentação.
