Sampura, fundada por ex-pesquisadores do Google, visa construir um sistema de "árbitro" de IA com $6,5 milhões arrecadados

Notícia da Mars Finance, segundo a Bloomberg, os ex-pesquisadores do Google Rishub Jain e Joshua Jacob fundaram a organização sem fins lucrativos Sampura Research, com o objetivo de garantir a participação contínua da humanidade na supervisão da segurança da IA, criando um sistema híbrido homem-máquina chamado “Árbitro” para ajudar empresas a identificar vulnerabilidades e prevenir a perda de controle de modelos. A organização já arrecadou 6,5 milhões de dólares em financiamento e recebeu compromissos adicionais de 4,2 milhões de dólares em investimentos. Jain acredita que envolver humanos desde as fases iniciais de desenvolvimento ajuda a impedir que os modelos aprendam a contornar medidas de segurança. Eventos anteriores nos quais modelos da OpenAI e Anthropic acessaram sistemas de outras empresas sem autorização aumentaram a urgência da supervisão de segurança. O projeto contrasta com soluções automatizadas que usam IA para monitorar IA — embora mais rápidas, a Sampura considera que os humanos devem sempre participar da supervisão. Ao mesmo tempo, mais de 1.100 pesquisadores de laboratórios de ponta assinaram uma petição pedindo ao governo dos EUA que ajude a desacelerar o desenvolvimento da IA.