La inteligencia artificial está mejorando en hacer más que responder preguntas. Los sistemas de IA ahora ayudan con programación, investigación, análisis y otras tareas que antes se manejaban casi por completo por personas. Eso plantea una nueva pregunta: ¿qué sucede cuando la IA comienza a desempeñar un papel más importante en la construcción de la próxima generación de IA?
OpenAI ahora está pidiendo normas internacionales para ayudar a responder esa pregunta. En una publicación del 21 de septiembre titulada “Building standards for the next phase of AI,” OpenAI propuso un esfuerzo internacional liderado por EE.UU. para crear normas técnicas comunes para la IA de vanguardia. La empresa dice que estas normas podrían ayudar a los países a medir las capacidades de la IA, evaluar riesgos, probar salvaguardias y reportar incidentes graves utilizando métodos más consistentes.
Principales conclusiones
- OpenAI desea normas internacionales para evaluar la IA de vanguardia.
- La propuesta cubre capacidades, riesgos, salvaguardias e informes de incidentes.
- OpenAI dice que la auto-mejora recursiva completamente autónoma no está ocurriendo hoy.
- La empresa desea que el control humano siga siendo central a medida que la IA se vuelve más capaz.
- Las organizaciones existentes de seguridad de la IA podrían ayudar a desarrollar estándares técnicos comunes.
Openai busca un marco común para la IA de vanguardia
La idea básica es bastante sencilla. No es necesario que cada país cree una metodología completamente diferente para evaluar los peligros planteados por la IA avanzada. Según OpenAI, estandarizar enfoques técnicos puede proporcionar a los países, investigadores y la comunidad de IA una forma efectiva de evaluar su IA cada vez más sofisticada. Esto se vuelve aún más relevante cuando ocurren incidentes relacionados con la IA a través de fronteras.
La empresa no propone una única ley global de inteligencia artificial. En cambio, desea que los países desarrollen estándares compatibles que los gobiernos puedan decidir posteriormente cómo utilizar dentro de sus propios sistemas regulatorios. Esta diferencia es significativa, ya que los estándares sugeridos no se convierten inmediatamente en requisitos para la licencia o certificación de todas las tecnologías de inteligencia artificial. Más bien, los gobiernos conservan el poder de determinar cómo se aplicarán los estándares dentro de sus jurisdicciones.
La auto-mejora recursiva es parte de la conversación
Una de las partes más interesantes de la propuesta de OpenAI es su discusión sobre la auto-mejora recursiva (RSI). El concepto describe un futuro en el que los sistemas de IA podrían ayudar cada vez más a los investigadores a desarrollar sistemas de IA más capaces. En términos sencillos, la IA podría convertirse en parte del proceso de mejorar la propia IA.
Eso podría acelerar potencialmente la investigación de IA. Pero también plantea una difícil pregunta de seguridad: ¿cuánta supervisión humana debería mantenerse en el ciclo si los sistemas de IA se involucran profundamente en el desarrollo de modelos futuros?
OpenAI dice que la auto-mejora recursiva completamente autónoma no está ocurriendo hoy. También argumenta que tal dirección no debería perseguirse a menos que se pueda hacer de forma segura manteniendo el control humano. Esto hace que la evaluación y las pruebas de seguridad sean más importantes a medida que los sistemas de IA se vuelven capaces de manejar tareas de investigación y desarrollo cada vez más complejas.
Las normas de seguridad de la IA podrían volverse más importantes
OpenAI también señala a organizaciones y redes existentes de seguridad de IA en todo el mundo como posibles bloques de construcción para este esfuerzo. La empresa menciona específicamente institutos de seguridad de IA y organizaciones relacionadas en países como Estados Unidos, Reino Unido, Canadá, Francia, Alemania, Japón, Corea del Sur, Singapur, India, Kenia y Australia.
En lugar de que cada país desarrolle su propio enfoque técnico completamente separado, OpenAI desea que estos grupos trabajen hacia estándares que puedan complementarse entre sí. La propuesta también solicita la participación de desarrolladores de IA, investigadores, académicos y expertos técnicos independientes. OpenAI afirma que los estándares deben diseñarse en torno a mediciones técnicas en lugar de los intereses de una empresa o país en particular.
Por qué esto importa
El momento es notable. Las empresas de IA están desarrollando sistemas que pueden realizar cada vez más tareas multipaso con menos intervención humana directa, mientras que los gobiernos aún están determinando cómo regular la tecnología.
Reuters informó que OpenAI desea que Estados Unidos asuma un papel líder en el desarrollo de estándares técnicos internacionales para la IA avanzada. El mayor desafío podría ser lograr que los países y las empresas acuerden exactamente qué deben medir esos estándares y cómo deben aplicarse.
Por ahora, la propuesta de OpenAI se centra en crear una base técnica común antes de que la IA de vanguardia se vuelva aún más capaz. A medida que la IA comience a realizar más del trabajo involucrado en el desarrollo de la propia IA, tener una forma compartida de medir capacidades, riesgos y salvaguardias podría convertirse en una parte cada vez más importante de la conversación.
Este artículo se publicó originalmente como OpenAI impulsa normas globales de seguridad para la IA a medida que la IA se vuelve más autónoma en Crypto Breaking News: tu fuente confiable para noticias de cripto, noticias de bitcoin y actualizaciones de cadena de bloques.