En medio del creciente debate sobre la seguridad de la IA, medios extranjeros señalaron que Jeffrey Hinton, Li Fei-Fei y Andrew Ng abordaron recientemente el tema de los modelos abiertos en la conferencia Ai4 celebrada en Las Vegas. Aunque sus posiciones no son completamente coincidentes, todos se oponen a que unas pocas grandes empresas tecnológicas dominen el ritmo del desarrollo de la IA.
Oppose a few companies controlling the entry points
El artículo señala que uno de los puntos de preocupación compartidos por los tres investigadores es que, si la IA es controlada por pocas empresas, el espacio para la innovación podría reducirse. Wu Enda afirmó directamente que no desea ver "porteros" en el campo de la IA, ya que esto limitaría la forma en que los desarrolladores, empresas y el público acceden a la IA.
Él cree que las grandes empresas naturalmente protegen sus ventajas y también pueden influir en la formación de las normas del sector. Como resultado, podría suceder que solo las empresas con los fondos más abundantes y la mayor potencia de cálculo puedan seguir desarrollando sistemas de vanguardia. La dirección que sugiere Andrew Ng es mantener la coexistencia de múltiples proveedores de modelos, permitiendo que los modelos y las empresas compitan en el mercado, en lugar de permitir que unas pocas plataformas dominen.
Hinton distingue entre código abierto y pesos abiertos
Sin embargo, Hinton no considera el "software de código abierto" y los "modelos de pesos abiertos" como lo mismo. Según él, el software de código abierto hace pública el código, permitiendo que terceros revisen vulnerabilidades y propongan modificaciones; en cambio, los pesos abiertos entregan directamente los parámetros del modelo entrenado a terceros, lo que reduce significativamente la barrera para el desarrollo secundario.
Él indicó que anteriormente se oponía a la apertura de pesos porque permitía que algunas personas transformaran modelos base en herramientas para ataques cibernéticos y otros fines a un costo más bajo. Sin embargo, reconoció que, en la práctica, este debate ya es difícil de revertir. Con la aparición continua de modelos de pesos abiertos, el umbral que antes representaba el costo de entrenamiento se ha visto claramente debilitado.
Sin embargo, Hinton no aboga por detener el desarrollo de la IA. El artículo indica que aún cree que la IA aumentará la productividad y mejorará áreas como la educación y la salud, pero que no por ello se deben ignorar los riesgos potenciales. También señaló que no es justo etiquetar a todas las personas que expresan preocupaciones sobre los riesgos de la IA como “fabricantes de pánico”.
Li Fei-Fei aboga por la apertura por capas.
A diferencia de Andrew Ng, quien enfatiza la competencia abierta, y Geoffrey Hinton, quien destaca los riesgos de seguridad, Li Fei-Fei se opone a reducir la discusión a solo dos opciones: “totalmente abierta” o “totalmente cerrada”. Ella considera que los sistemas complejos de software e investigación ya tienen diferentes niveles, y distintas etapas pueden adoptar grados variados de apertura.
Ejemplificó con la física nuclear: los artículos académicos pueden publicarse abiertamente, pero el material de uranio está estrictamente regulado, y los experimentos se encuentran en algún punto intermedio. A partir de esto, considera que la IA también podría adoptar un enfoque similar: mantener cierta apertura en la investigación científica, la educación y la cooperación internacional, al tiempo que permite a las empresas conservar sistemas y modelos de negocio cerrados.
El artículo también menciona que Li Fei-Fei citó el Proyecto Genoma Humano para explicar que una plataforma de conocimiento básico formada por la colaboración entre instituciones públicas y el sector privado puede respaldar simultáneamente el avance de la investigación científica, la rentabilidad empresarial y la aplicación social. Ella considera que la infraestructura de IA también debería desarrollarse en esta dirección, en lugar de quedar atrapada en debates binarios.
Los tres reconocen la necesidad de regulación
Aunque los tres tienen diferentes criterios sobre los límites de los modelos abiertos, sus posturas sobre la regulación son similares. El artículo señala que todos consideran que la IA aún necesita cierto grado de regulación para desarrollarse en una dirección más beneficiosa para la sociedad.
Hinton señaló que no se puede dejar que los empresarios decidan por sí solos cómo debe desarrollarse la IA. El debate en torno a los modelos abiertos ya no es solo una disputa sobre la línea tecnológica, sino que también afecta la distribución del poder en la industria, la competencia internacional y la dirección de la gobernanza de la seguridad de la IA.