source avatarSad Creator

Compartilhar

A OpenAI descreveu como agora interrompem seus próprios modelos de pesquisa. Isso é chamado de Control Room. Cada tarefa de pesquisa que realiza inferência agente precisa se registrar com um ID de tarefa vinculado a um caso de segurança aprovado. O mecanismo de inferência consulta o Control Room antes de cada solicitação. Se a tarefa for interrompida, o mecanismo simplesmente recusa, mesmo que o código da tarefa continue em execução. Eles afirmam que, 35 segundos após a decisão, não há mais saída. E se o Control Room próprio falhar, tudo é interrompido (falha segura). Para escala, conforme o relatório de incidentes de setembro, uma execução de treinamento sinalizada foi encerrada 2,5 horas após alguém começar a revisar o alerta, e "não foi interrompida automaticamente como esperado". Portanto, o botão de emergência é uma verificação de permissão antes de cada solicitação que a tarefa não pode ignorar. Nada sofisticado. Qualquer um que execute loops de agentes em produção tem um método de parada que não é Ctrl+C.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.