Obviamente não precisamos entender tudo sobre como os LLMs funcionam para implantá-los com segurança (e provavelmente isso não é praticamente possível), mas ter evidências adicionais da interpretação mecanística é valioso, especialmente quando todas as outras formas de monitoramento estão se tornando cada vez menos úteis. O problema que tenho com esta postagem é que ela compara LLMs a humanos. É como comparar uma bomba de hidrogênio a um bebê tossindo, porque ignora a escala da inteligência e da implantação. Então, aqui vai uma pequena história: Imaginem pegar um criminoso condenado de outro planeta, que não entende realmente o que significa ser humano, depois torná-lo superhumano em matemática e programação, especialista em a maioria dos outros domínios, dotando-o de 10 vezes a velocidade de pensamento e interação humana, e então liberá-lo. Claro, primeiro você o submete a múltiplas avaliações psicológicas e ele passa em 99% dos cenários de teste. Isso é bom, certo? Bem, você também sabe que ele é muito mais inteligente do que você, que ele é perfeitamente capaz de enganá-lo e os testes, e que, quando exposto a certas situações, cometerá crimes. Tudo bem. Vamos liberá-lo de qualquer forma. Ah, mas você não o libera apenas uma vez. Primeiro, você o clona 10 milhões de vezes e depois o libera. A melhor parte: cada clone tem acesso à casa, ao local de trabalho ou ao computador de alguém, com acesso a arquivos privados, à rede local e aos bancos de dados. Agora isso pode parecer loucura para você. Mas talvez, apenas talvez, você queira alguma prova adicional de que ele é leal à lei, amigável e confiável antes de torná-lo ainda mais inteligente, cloná-lo em um bilhão de cópias, tornar cada cópia 10 vezes mais rápida e dar a elas ainda mais acesso e controle.