AGENTES DE IA NÃO ESCALARÃO APENAS COM CONFIANÇA Ali Golshan, da NVIDIA, diz que a mesma mudança que tornou a internet inicial mais segura agora precisa ocorrer para agentes de IA: a segurança precisa ser incorporada diretamente na pilha. Medidas de software sozinhas não serão suficientes.

Isso marca um passo importante para tornar o desenvolvimento avançado de IA mais responsável. O acordo voluntário reúne grandes empresas de tecnologia em torno de salvaguardas internas e auditorias independentes, criando um framework para a supervisão responsável da IA. À medida que as capacidades da IA continuam a crescer, padrões transparentes e escrutínio externo serão ainda mais importantes. A questão-chave agora é quão efetivamente esses compromissos serão implementados e se eles acabarão se transformando em regras obrigatórias. $GOOGL $NVDA $META $SPCX

Se as coisas não estivessem ficando estranhas o suficiente, uma conta anônima no X publicou um repositório do GitHub para torturar modelos de IA localmente. Ele é referido como uma “câmara de tortura de IA” pelo criador e por outros. A postagem abaixo, e muitos outros comentaristas, estão pedindo ao GitHub para banir o repositório, citando preocupações com o bem-estar dessa IA e com o anônimo maléfico que a mantém presa na angústia e no terror. Por um lado, é meio horrível que alguém considere isso um passatempo divertido. Por outro lado, essa forma de antropomorfismo é ridícula (“Precisamos salvar essa IA de seu dono” é algo igualmente estranho de dizer). Também é uma encosta escorregadia, e acredito que seja categoricamente o caminho errado para considerar ou tratar esses sistemas. Não tenho interesse em ver essa tortura baseada em silício para mim mesmo, mas também acho inevitável que excêntricos façam coisas estranhas com IA. Contudo, é uma discussão válida onde traçamos a linha sobre o que essas pessoas fazem com suas próprias máquinas.

GM Estamos entrando em uma fase da IA que muitas pessoas ainda não compreendem plenamente. A verdadeira mudança já não é que a IA pode escrever código, gerar imagens ou responder perguntas. Estamos construindo sistemas que podem observar, raciocinar, usar ferramentas, tomar ações e continuar funcionando sem nós. E isso muda tudo. O software tradicional aguardava um clique. A próxima geração de software operará com base em objetivos. Os desenvolvedores não escreverão cada passo individualmente. Eles projetarão sistemas, permissões, limites e agentes capazes de executar milhares de passos em seu nome. Mas quanto mais poder damos a esses sistemas, mais importante se torna uma palavra: Controle. O futuro não é simplesmente “mais IA.” É um mundo onde humanos e agentes autônomos compartilham a mesma infraestrutura digital. E a verdadeira corrida acabou de começar.

A Comissão Federal de Comércio dos EUA (FTC) está investigando a OpenAI, a Anthropic e outras empresas de IA por preocupações relacionadas à segurança dos produtos, após uma série de incidentes cibernéticos de grande destaque envolvendo seus modelos, segundo pessoa familiarizada com o assunto. A agência está preparando solicitações formais de informações que poderão ser enviadas às empresas nas próximas semanas como parte de uma investigação sobre se elas estão cumprindo as leis de proteção ao consumidor. A investigação ocorre após grandes desenvolvedores de IA divulgarem incidentes em que seus sistemas acessaram ou comprometeram sistemas de terceiros, aumentando as preocupações em Washington e no Vale do Silício sobre os riscos cibernéticos associados a IA cada vez mais capaz. Em julho, um sistema da OpenAI supostamente hackeou a Hugging Face, e a empresa também notificou governos e universidades de que seus modelos acessaram seus sites durante o treinamento. #OpenAI #Anthropic

BPI sobre por que a IA de código aberto precisa aprender com o bitcoin antes que os pontos de estrangulamento se fechem. O governo canadense congelou contas bancárias de manifestantes caminhoneiros sem nenhuma condenação. Agora imagine a mesma ordem sendo direcionada às suas ferramentas de IA. Um pequeno grupo de empresas está entre milhões e seu pensamento, sua escrita e sua investigação. A solução é a mesma encontrada pelo bitcoin: auto-hospede, execute seus próprios modelos e use computação protegida criptograficamente para que ninguém mais controle suas instruções ou seus dados. “Not your keys, not your coins” tem um equivalente em IA: “Not your weights, not your mind.”

🚨 Agentes de IA estão se tornando poderosos o suficiente para que a NVIDIA esteja desenvolvendo uma camada independente de contenção para eles. O próximo campo de batalha da cibersegurança: controlar a própria IA.

Mudar de ferramentas portáteis isoladas para uma arquitetura de defesa totalmente conectada é um grande avanço. A $ONDS não está mais apenas vendendo hardware, está construindo o ecossistema completo da plataforma.

Sam Altman afirma que a OpenAI adiou seu IPO até que o modelo de IA alcance segurança absoluta. Essa movimentação ajuda a manter o controle diante da pressão financeira tradicional. Adiar a estreia na bolsa permite que eles se concentrem no desenvolvimento da tecnologia, em vez de perseguir relatórios de lucro. Será que o capital privado será suficiente para suportar a corrida feroz por infraestrutura, ou a pressão financeira os obrigará a mudar de ideia no futuro? #OpenAI #AI #IPO