O que o LatchLens realmente faz para os usuários? @RialoHQ Quando um agente de IA recebe permissão para acessar APIs, gastar fundos, chamar ferramentas ou manipular dados do usuário, mesmo uma única regra de política fraca pode criar um risco sério. Ler manualmente uma política JSON extensa nem sempre revela o que o agente ainda pode usar indevidamente. É aí que o LatchLens ajuda. Um desenvolvedor pode colar uma política Latch no LatchLens ou começar com uma política de exemplo. O LatchLens então executa 14 cenários adversariais contra ela, incluindo roubo de identidade, endpoints inseguros, limites excessivos de tokens, escalonamento de modelo não aprovado, exposição de PII, gastos excessivos, abuso de limites de taxa e métodos destrutivos. Em vez de apenas dizer “a política falhou”, o LatchLens mostra o primeiro rastreamento de negação, onde a solicitação deveria ter sido bloqueada, qual regra falhou em impedi-la e o que precisa ser alterado. Isso torna a depuração das permissões do agente muito mais rápida e fácil de entender. O fluxo de trabalho básico é: Adicionar ou selecionar uma política Latch Executar a simulação de ataque local Revisar a pontuação de segurança e os casos expostos Inspeccionar o rastreamento de primeira negação Aplicar o endurecimento sugerido Executar os testes novamente e confirmar a melhoria Os usuários também podem gerar um relatório de prova SHA-256 determinístico, verificar localmente um relatório baixado em relação à política exata e opcionalmente ancorar seus compromissos na Rialo DevNet. Isso torna alterações posteriores detectáveis e fornece aos desenvolvedores evidência independentemente verificável do que foi testado. Se um token Latch estiver disponível, o LatchLens também pode comparar casos reproduzíveis de forma determinística com o endpoint de autorização ao vivo da Latch. O token não é incluído no relatório e é limpo após o uso. Portanto, o LatchLens não é outra carteira de agente ou motor de política. É uma camada de garantia e prova de política que ajuda os desenvolvedores a responder a uma pergunta simples, mas importante: “Antes de dar a este agente autoridade real, eu realmente testei o que suas permissões permitem?” Experimente: https://t.co/5S54a2dgFv @JEAMSETH07
Sanjeeb DasCompartilhar
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.