Como se predijo, la IA necesita criptografía para verificación. En un entorno multiinquilino con nubes alojadas y enrutadores de modelos, esta necesidad aumenta. Las personas necesitan verificar que están recibiendo el modelo por el que pagan y demostrar a los reguladores qué modelo/pesos están utilizando, ya que estos modelos se convierten en la base para la seguridad y los flujos de trabajo empresariales en industrias reguladas. Los ZKP siempre estuvieron en la mesa como la solución complementaria para la IA cuando el servicio exige confianza de terceros en la caja negra de la IA. Pero tenga en cuenta que la necesidad de Anthropic de probar la inferencia difiere del uso de ZKP en cripto. Los proyectos nativos de cripto se optimizaron para verificación económica en cadena, por lo que buscaban pruebas pequeñas y aceptaron probadores lentos. Anthropic se optimizó para auditores y reguladores fuera de cadena, por lo que aceptó pruebas de 19 MB y obtuvo un probador rápido. Anthropic eligió STARKs que pueden generar pruebas rápidamente: un lote de 24 solicitudes se prueba en aproximadamente 223 segundos, lo que equivale a unos 110 tokens/s. Eso es aproximadamente 72 veces el tiempo de GPU necesario para servir las mismas solicitudes en vLLM. Esto los llevó a adoptar pruebas STARK que son seguras contra computadoras cuánticas y compatibles con GPU. Pero & hay un gran pero: lo que Anthropic realmente está probando ante terceros es simplemente que los pesos del modelo en el compromiso de hash fueron los que se ejecutaron como enteros en respuesta a una sola solicitud. No hay suficiente para probar qué modelo exacto se ejecutó realmente, solo que los pesos fueron los comprometidos. Esto implica que existen formas bastante intuitivas de manipular esto: comprometerse con un modelo más barato con pesos similares, reescribir selectivamente las solicitudes para engañar en el resto del tráfico que no está siendo muestreado o probado; la selección aleatoria puede desviar tokens dentro del rango de error de la prueba. https://t.co/VHR8DG0vbx
