Experto en seguridad critica el modelo de responsabilidad de IA de Anthropic

ME AI mensaje, según el monitoreo de Beating, el experto en sandbox de seguridad y arquitecto principal de Cloudflare, Kenton Varda, critica el modelo de identidad de agentes de Anthropic, señalando que asignar cuentas exclusivas directamente a la IA no solo no es escalable para tareas masivas, sino que también socava el mecanismo de responsabilidad humana. Kenton Varda considera que, aunque la nueva arquitectura de seguridad intenta resolver problemas de privilegios excesivos en la colaboración multiusuario, presenta defectos fatales en su diseño subyacente. Los agentes no pueden ser sujetos legales ni administrativos; todos los permisos de operación deben y solo pueden derivarse de personas reales. Si se generan cuentas independientes y exclusivas para la IA, cuando esta realice operaciones destructivas como eliminar una base de datos, los registros del sistema solo registrarán que la IA realizó la operación, sin poder atribuir la responsabilidad al empleado que realmente emitió la instrucción, lo que lleva a una falla total del mecanismo de responsabilidad humana. Para abordar la fatiga de configuración causada por paquetes de permisos independientes, Kenton Varda promueve el uso de un modelo de seguridad basado en capacidades. El sistema no debe otorgar a la IA permisos globales ni predeterminados, sino transmitir dinámicamente los permisos como “capacidades”. Por ejemplo, cuando un empleado envíe un enlace a un documento específico en una conversación con la IA, el sistema automáticamente generará una referencia temporal de solo lectura al archivo específico utilizando las credenciales del propio empleado y se la transmitirá a la IA. El modelo de capacidades no solo garantiza que cualquier acción de la IA pueda rastrearse hasta su iniciador específico, sino que también impide que empleados con bajos permisos transfieran a la IA credenciales de base de datos que ellos mismos no poseen, cerrando así en la base cualquier vulnerabilidad de privilegios excesivos. (Fuente: BlockBeats)