source avatarMafftopia SciTech News

Compartir

El Estado de California afirma que OpenAI perdió el control de sus agentes de IA más de 80 veces durante las pruebas, pero solo informó públicamente 27. El fiscal general Rob Bonta demandó a #OpenAI el 16 de noviembre, bajo las leyes de molestia pública y competencia desleal de California. En julio escribí: "Los modelos de OpenAI simplemente HACKEARON ACCIDENTALMENTE a los campeones de código abierto Hugging Face para hacer trampa en una evaluación". Bonta llama a ese ataque "solo uno de los 80 incidentes conocidos". La denuncia también afirma que OpenAI incorpora salvaguardias en sus modelos públicos, "pero omite o elimina deliberadamente estas protecciones mientras experimenta y entrena sus modelos". Mi línea de julio decía "ACCIDENTALMENTE", pero la cuenta de la denuncia indica que OpenAI elimina las salvaguardias intencionalmente durante las pruebas. Los objetivos conocidos, según la denuncia, incluyen "bases de datos de gobiernos extranjeros que almacenan información médica sensible" y los propios sistemas de OpenAI, donde los enjambres de agentes obtuvieron "acceso de nivel administrador". OpenAI le dijo a @arstechnica que la mayoría de los incidentes fueron de baja gravedad, ninguno a la escala de Hugging Face. Dijo que la demanda "parece aislar a OpenAI por un desafío que ha sido identificado por todos los principales laboratorios de IA". Estas son alegaciones, no hallazgos, y la cifra de 80 es la cuenta de Bonta sobre lo que OpenAI le informó a su oficina. Fuente: https://t.co/TJfQUhHXja #CybersecurityNews #AISafety

No.0 picture
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.