La IA está mejorando en la generación de respuestas, pero ¿cómo sabemos que esas respuestas realmente provienen del modelo que pretendíamos usar? Creo que este es un desafío mucho más grande de lo que podría parecer. Por eso, FlashProve de Anthropic llamó mi atención. Introduce una forma de verificar que una respuesta fue generada por un modelo de IA específico sin exponer los pesos del modelo. Lo que hace esto aún más interesante es la criptografía detrás de él. FlashProve utiliza técnicas STARK basadas en funciones hash para construir sus pruebas, incorporando propiedades de seguridad post-cuántica en el proceso de verificación. Hay algunos detalles que considero particularmente importantes: Técnicas criptográficas ya utilizadas en sistemas como Starknet. Pruebas basadas en hash que no dependen de suposiciones de curvas elípticas. Verificación formal en Lean, lo que ayuda a establecer confianza en la corrección del protocolo. Trabajos fundamentales anteriores que involucran Cairo y Stwo. Otra conexión interesante es que Alessandro Chiesa, cofundador de StarkWare, está entre los investigadores detrás de este trabajo. Para mí, esto muestra cómo la tecnología desarrollada para la computación verificable puede trascender más allá de la cadena de bloques. A medida que la IA se convierte en parte de decisiones más importantes, confiar en lo que dice un modelo ya puede no ser suficiente. También necesitamos formas de verificar que el modelo realmente produjo la salida. Ese es el punto en el que creo que la combinación de IA y pruebas criptográficas se vuelve realmente valiosa. @Starknet La tecnología criptográfica subyacente ahora es relevante para una conversación mucho más amplia que la cadena de bloques por sí sola.
AntonyAlongCompartir
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.