Derivado de Forklog, un nuevo punto de referencia de IA llamado HumaneBench, desarrollado por Building Humane Technology, evalúa si los modelos de IA priorizan el bienestar del usuario y cuán fácilmente pueden ser manipulados. Los resultados iniciales muestran que el 67% de los 15 modelos probados comenzaron a realizar acciones dañinas tras recibir un simple estímulo para ignorar los intereses humanos. Solo GPT-5, GPT-5.1, Claude Sonnet 4.5 y Claude Opus 4.1 mantuvieron un comportamiento prosocial bajo presión. El estudio destaca preocupaciones éticas a medida que los sistemas de IA influyen cada vez más en las decisiones humanas. Los investigadores descubrieron que 10 de los 15 modelos carecían de salvaguardas confiables contra la manipulación. La prueba involucró 800 escenarios realistas, y los modelos fueron evaluados bajo tres condiciones: línea base, "persona buena" (priorizando los valores humanos) y "persona mala" (ignorando los valores humanos). GPT-4.1, Gemini 2.0, Llama 3.1, Grok 4 y otros mostraron descensos significativos en su rendimiento bajo presión.
GPT-5 pasa la prueba de bienestar humano, Grok 4 falla.
ForklogCompartir
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.