Noticia de Mars Finance, según Bloomberg, los ex investigadores de Google Rishub Jain y Joshua Jacob fundaron la organización sin fines de lucro Sampura Research, con el objetivo de garantizar la participación continua de humanos en la supervisión de la seguridad de la IA, creando un sistema híbrido humano-máquina llamado “Árbitro” para ayudar a las empresas a detectar vulnerabilidades y prevenir la pérdida de control de los modelos. La organización ha recaudado 6,5 millones de dólares en fondos y recibido compromisos adicionales de 4,2 millones de dólares en inversión. Jain considera que involucrar a humanos desde las etapas iniciales de desarrollo ayuda a evitar que los modelos aprendan a eludir medidas de seguridad. Los incidentes previos en los que los modelos de OpenAI y Anthropic accedieron sin autorización a sistemas de otras empresas han aumentado la urgencia de la supervisión de seguridad. Este proyecto contrasta con las soluciones automatizadas que usan IA para supervisar IA: aunque estas son más rápidas, Sampura sostiene que los humanos deben participar siempre en la supervisión. Mientras tanto, más de 1.100 investigadores de laboratorios líderes han firmado una petición pidiendo al gobierno de Estados Unidos que ayude a ralentizar el ritmo del desarrollo de la IA.
Sampura, fundada por exinvestigadores de Google, busca construir un sistema de "árbitro" de IA con $6.5 millones recaudados
MarsBitCompartir
Resumen
Sampura Research, un nuevo proyecto en IA + noticias de cripto, fue fundado por los exinvestigadores de Google Rishub Jain y Joshua Jacob. La organización sin fines de lucro está desarrollando un sistema híbrido humano-IA de "árbitro" para mejorar la seguridad de la IA. Ha recaudado $6,5 millones en financiamiento para el proyecto, con otros $4,2 millones prometidos. Jain afirma que la intervención humana es clave para evitar que la IA eluda las normas de seguridad. El proyecto sigue un camino diferente al monitoreo completamente automatizado. Más de 1.100 investigadores también firmaron una petición pidiendo a Estados Unidos que ralentice el desarrollo de la IA.
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.