¡Qué drama! Esta podría ser la versión completa más detallada de la épica lucha de poder en el palacio de Ultraman.
El otro protagonista del evento, Greg Brockman, número dos de OpenAI, revela personalmente:
¿Qué sucedió en las 72 horas después de que Ultraman fuera despedido?
La verdad sale a la luz, pero es bastante dolorosa:
Greg y Otman realmente no tenían conocimiento alguno antes del incidente, y hasta ahora, las partes involucradas aún están reflexionando sobre qué paso falló.
Al principio, la junta solo quería despedir a Altman, pero Greg fue demasiado leal y presentó su renuncia ese mismo día.
Al día siguiente del despido, se reunieron en secreto en la casa de Altman para planificar su nueva empresa, e incluso planeaban llevarse a todos los empleados.
La junta directiva cambió de opinión repentinamente; originalmente casi habían acordado el regreso de Altman, pero de repente nombraron a un nuevo CEO.
Durante todo el fin de semana, todos los competidores estaban reclutando desesperadamente, pero nadie aceptó.
La retirada de Ilya alivió a Greg.
Una entrevista de más de una hora, en la que Greg explicó casi por completo el origen y desarrollo de este épico golpe en Silicon Valley, y respondió a todo, incluyendo la historia de OpenAI, por qué decidió volverse rentable y hacia dónde se dirige en el futuro...
Desde la incertidumbre al dejar Stripe, hasta ese offsite decisivo en el Valle de Napa y el inesperado avance en el proyecto Dota, la densidad de información es muy alta.
Greg incluso se ahogó varias veces:
Cuando Ilya se fue, fue la única vez que sentí que no quería seguir haciendo esto.
A continuación, se presenta el texto completo de la entrevista, resumido y ajustado sin alterar el significado original.
Conversar con el presidente de OpenAI, Greg Brockman
(La pregunta del presentador Shane Parrish se denominará Q a continuación)
OpenAI nació de la autoincertidumbre
P: ¿Cómo se fundó OpenAI?
Greg: Sé que quiero emprender porque siento que tiene un gran significado.
P: Pero tú acababas de emprender en Stripe.
Greg: Sí, pero siempre he sentido que el problema que Stripe busca resolver no es «mi problema».
Es ciertamente importante, y le dediqué muchos años. Pero siento que, conmigo o sin mí, tendrá éxito.
Entonces, por primera vez, tuve la verdadera oportunidad de reflexionar: ¿cuál es la misión en la que quiero invertir toda mi vida? ¿Un problema en el que esté dispuesto a dedicar el resto de mi vida, aunque solo sea para hacerlo un poco mejor?
La respuesta es clara: IA.
Si puedes influir realmente en la dirección del desarrollo de la IA en el mundo, entonces tu vida no habrá sido en vano.
P: Cuando planeabas dejar Stripe, Patrick te sugirió que hablaras con Sam Altman, ¿qué sucedió en esa conversación?
Greg: Patrick me dijo en ese momento que Sam había conocido a muchos jóvenes en una situación similar a la mía.
En realidad sé que Patrick quería que Sam me convenciera a quedarme, pero después de hablar con Sam durante unos minutos, quedó claro mi decisión de irme.
Luego, Sam me preguntó qué planes tenía a continuación, y le dije que estaba considerando crear una empresa de IA.
Sam dijo que también está considerando hacer algo en el campo de la IA y espera mantenerse en contacto.
Después de dejar Stripe, hablé otra vez con Sam, y esta vez Sam me dijo que tenía ideas más concretas y me invitó a la cena de julio.
Recuerdo que el tema de la cena era: ¿Ahora, al crear un laboratorio y reunir a los investigadores más destacados del mundo, ya es demasiado tarde? ¿Aún es posible?
¿En qué año fue?
Greg: 2015.
En ese momento, DeepMind ya tenía casi un monopolio sobre todos los investigadores de élite, fondos y datos. Todos nos preguntábamos si aún sería posible crear algo nuevo desde cero.
Todos juntos enumeraron innumerables dificultades, pero nadie pudo dar una razón verdaderamente imposible.
Esa noche, Sam y yo condujimos de regreso a la ciudad. Nos miramos y él dijo: "Tenemos que hacer esto".
Al día siguiente, comencé a dedicarme por completo a la preparación.
Es difícil, todo está borroso. Solo tenemos una visión: deseamos construir una inteligencia artificial general humana que tenga un impacto positivo en el mundo y beneficie a la población en su conjunto. Pero no tenemos ni idea de cómo lograrlo ni cómo convencer a otros de dejar sus trabajos para unirse a nosotros.
Inicialmente, el equipo central que establecí fue Ilya, John Schulman y yo. Pasamos mucho tiempo juntos discutiendo diversas visiones y posibles formas de funcionar del laboratorio, pero nunca logramos materializarlo.
En parte debido a preocupaciones sobre la falta de impulso suficiente del proyecto, Dario sintió que necesitaba primero hacerse un nombre propio, y no estaba seguro de si este proyecto le convenía.
Mientras tanto, comencé a convencer a John Schulman de que se uniera, y aceptó. Pero Dario y Chris finalmente decidieron ir a Google Brain, por lo que el equipo realmente se redujo a mí, Ilya, John y otras pocas personas.
En ese momento, alrededor de diez personas expresaron interés, pero todas estaban a la espera de quién más se uniría.
Le pregunté a Sam cómo podíamos romper este estancamiento, y Sam sugirió sacar a todos fuera de la oficina para organizar una actividad off-site. Elegimos el Valle de Napa, y yo hice camisetas especialmente para la ocasión.
En ese momento no había ninguna oferta formal, ninguna estructura empresarial, nada. Solo teníamos una idea, una visión, una misión.
Pero cuando trajimos a la gente y estuvimos en Napa Valley ese día, nos vino la inspiración y casi definimos la hoja de ruta tecnológica para los próximos diez años:
1. Resolver problemas de aprendizaje por refuerzo. 2. Resolver problemas de aprendizaje no supervisado. 3. Aprender gradualmente cosas más complejas.
Después de la reunión privada, envié una oferta a todos, informando que iniciaremos dentro de las próximas 2-3 semanas; si están interesados en unirse, por favor avísenme.
¿Por qué en ese momento se consideraba que DeepMind era difícil de superar?
Greg: En ese momento, Google DeepMind era el gigante en el campo de la IA, con recursos financieros abundantes y logros notables, incluso meses antes del lanzamiento de AlphaGo, pero su ventaja ya era evidente.
Por eso dudamos: ¿realmente se puede crear una nueva institución independiente? La respuesta no está clara.
Justificación para abandonar el carácter sin fines de lucro
¿Cuándo te diste cuenta de que el camino sin fines de lucro no funcionaba?
Greg: En 2017, comenzamos a pensar seriamente en cómo lograr realmente nuestra misión y cómo construir realmente la AGI. Calculamos la demanda de potencia de cómputo y descubrimos que necesitábamos dispositivos de cómputo a escala ultramasiva.
En ese momento, entramos en contacto con Cerebras, que estaba desarrollando un hardware de cómputo especializado con un rendimiento mucho superior al poder de cómputo que habíamos calculado nosotros mismos.
Entonces nos dimos cuenta de que, si pudiéramos comprar una gran cantidad de esos dispositivos, obtener exclusivamente los productos de Cerebras y construir centros de datos de gran escala, eso nos brindaría una ventaja abrumadora.
Pero la recaudación de fondos de organizaciones sin fines de lucro tiene un límite y no puede respaldar tal inversión. Por lo tanto, Elon, Sam, Ilya y yo coincidimos en que el único camino para que OpenAI cumpla su misión es crear una entidad comercial asociada.
El momento "GPT" de OpenAI
P: ¿Cuándo te diste cuenta de que todo cambiaría por completo? ¿Antes o después del proyecto Dota?
Greg: La forma en que funciona OpenAI es una sucesión de momentos en los que los sueños se hacen realidad. Cada vez que crees que ya has comprendido la totalidad, pronto descubrirás nuevos límites.
Cuando formamos el equipo por primera vez, nos sentimos emocionados de haber logrado reunir realmente al equipo y poder comenzar a avanzar hacia nuestra misión. Pero al día siguiente, al llegar a la oficina, nos dimos cuenta de que ni siquiera teníamos una pizarra.
El proyecto Dota fue nuestro primer gran logro, y realmente nos hizo sentir que, si ponemos todo nuestro esfuerzo, realmente podemos lograrlo. Demostró que al reunir la potencia de cálculo y aumentarla, se mejora el resultado.
También hay muchos de estos momentos en la serie GPT, como el primer artículo sobre un neurona de sentimiento no supervisada, donde vimos por primera vez cómo emergía la semántica del entrenamiento con el objetivo de modelado del lenguaje.
Entrenas un modelo para predecir el siguiente carácter, y de repente, obtienes una red neuronal capaz de comprender emociones y distinguir entre positivas y negativas.
En ese momento nos dimos cuenta de que estábamos construyendo máquinas capaces de aprender semántica, no solo reglas gramaticales.
Cuando surgió GPT-4, algunos se preguntaron por qué aún no era AGI. Aunque podía mantener conversaciones fluidas y casi cumplía con todas nuestras definiciones previas de AGI, aún le faltaba el último impulso.
En resumen, a lo largo del camino, hubo muchos momentos similares que nos hicieron sentir que el sueño se hacía realidad, pero estos momentos están lejos de haber terminado; tendremos más momentos revolucionarios y luego nos daremos cuenta de que la siguiente etapa podría ser posible.
P: ¿Por qué crees que Dota es tan importante?
Greg: Dota es un momento increíble; a diferencia del ajedrez jugado por Deep Blue o el Go jugado por AlphaGo, que tienen reglas claras, Dota implica interacción en tiempo real con humanos en un entorno complejo y abierto, lo que lo acerca más al mundo real.
En realidad, inicialmente solo queríamos usarlo para validar un nuevo algoritmo, ya que el aprendizaje por refuerzo en ese momento no podía escalarse. Pero al aumentar continuamente la potencia de cómputo, logramos superar a los mejores jugadores humanos con un algoritmo PPO extremadamente simple, lo que demuestra:
Gran capacidad de cálculo + algoritmo simple, realmente es factible en la práctica.
En particular, en este entorno extremadamente caótico, donde no puedes programar, predecir ni buscar, lo que necesitas es casi una intuición humana.
En ese momento, las redes neuronales utilizadas eran muy pequeñas, con un número de sinapsis comparable al de un cerebro de insecto, y nos preguntamos: ¿qué aspecto tendría si extendiéramos esta idea al tamaño de un cerebro humano? Es una excelente y muy atractiva pregunta.
P: Dado que se ha mencionado la predicción, ¿crees que hay una diferencia entre predicción e inferencia?
Greg: Creo que existe una conexión profunda entre ambos.
Parece sencillo predecir solo la siguiente palabra, pero si puedes predecir con precisión la siguiente palabra de Einstein, entonces al menos eres tan inteligente como Einstein.
The core of prediction is not anticipating known information, but inferring subsequent developments in entirely new scenarios never seen before, which is deeply tied to the essence of intelligence.
Los modelos de razonamiento actuales se dividen en dos pasos:
1. Aprendizaje no supervisado: entrenar al modelo mediante la predicción de lo que ocurrirá a continuación. Los datos son más estáticos y observacionales. 2. Aprendizaje por refuerzo: hacer que la IA aprenda sobre sus propios datos. Ella misma toma acciones, recibe retroalimentación del entorno y aprende de ello. El método de entrenamiento sigue siendo esencialmente predictivo: predice los resultados después de una acción y refuerza según la efectividad.
Pero en esencia, la tecnología utilizada en ambas etapas es completamente la misma: se trata de predicción, solo que los datos son diferentes.
Evento de presión de Ultraman
¿Desde cuándo se volvieron agudos los conflictos internos?
Greg: Lo especial de OpenAI es que creemos firmemente que podemos crear una IA al nivel humano, lo que implica un riesgo muy alto.
¿Quién toma las decisiones? ¿Qué valores hay detrás de estas decisiones? Cosas que en una empresa común son irrelevantes, como la política de oficina, aquí adquieren un peso vital para la supervivencia de la humanidad.
Creo que esto ha afectado mucho el desarrollo interno de OpenAI y es la raíz de todos los grandes conflictos.
Uno de los impulsores clave del campo de la inteligencia artificial es la deseabilidad de las personas de estar en el centro de la revolución tecnológica y ser recordadas, por lo que esto no es solo un problema de OpenAI.
La tecnología de IA es inherentemente fragmentada; bajo presión, puede generar diamantes o grietas, por lo que a menudo ves la formación de diamantes en pequeños grupos debido a su colaboración estrecha y confianza mutua. Pero a veces también se dividen y siguen sus propios caminos.
Creo que en el campo de la IA, los caminos múltiples y la competencia saludable son normales, ya que nos permiten avanzar más seguramente en la tecnología y explorar problemas complejos como la seguridad y la ética.
Entonces, el debate saludable siempre ha existido dentro de OpenAI, pero ahora, esto está ocurriendo en todo el mundo.
P: Entonces, volvamos al momento en que supiste que Sam fue despedido, ¿dónde estabas?
Greg: Estaba en casa. Recibí un mensaje con una invitación para una videollamada y noté que todos los miembros de la junta, excepto Sam, estaban allí. En ese momento supe que algo no andaba bien.
Me dijeron que la junta decidió remover a Sam. La información que recibí era esencialmente la misma que el comunicado público, así que intenté pedir más detalles, pero me rechazaron.
Luego dijeron que también me habían eliminado del consejo, pero que seguiría en la empresa porque soy esencial para la compañía y su misión.
Volví a pedir una explicación y nuevamente me la negaron. Finalmente me dijeron que, bajo la nueva arquitectura, tal vez recibiría retroalimentación. Eso fue lo que se dijo en esa llamada.
P: ¿Qué estabas pensando en ese momento? ¿Te sentiste enojado?
Greg: No, solo siento que esto no es correcto, pero probablemente entiendo lo que pasó.
¿Cuánto tiempo pasó hasta que supiste qué fue lo que causó todo esto?
Greg: La respuesta tiene dos partes. Primero, siento que todavía estoy descubriendo nuevos hechos, cosas que otras personas tienen en mente. En cierto sentido, esto se reduce a una mala comunicación; de repente te das cuenta de que había muchas cosas que habías ignorado antes.
Por otro lado, tengo una idea aproximada de por qué cada uno de ellos debe hacerlo.
Pero en ese momento, buscar la razón ya no era importante; simplemente sabía que eso no estaba bien. Así que después de colgar el teléfono, le dije inmediatamente a mi esposa que iba a renunciar, y ella también estuvo de acuerdo.
That same day, I submitted my resignation.
Desde que renuncié, he recibido muchos mensajes. Hemos recibido mucho apoyo y entusiasmo, y muchas personas están dispuestas a dejarnos y emprender nuevamente con nosotros, incluyendo a Jakob, Shimone y Alexander.
Luego nos reunimos con Sam y comenzamos a planificar una nueva empresa.
En el primer día, creíamos que la posibilidad de que Sam regresara era del 10%. Así que organizamos una reunión en la casa de Sam, a la que asistieron muchas personas de la empresa, y les mostramos el cuadro que estábamos dibujando. En un solo día, obtuvimos una nueva visión sobre cómo operar el proyecto.
Ese fin de semana, también dedicamos mucho tiempo a negociar con la junta y la empresa para encontrar un camino significativo hacia un regreso.
Como resultado, el domingo por la noche, la junta designó de forma repentina y temporal a un nuevo CEO para reemplazarme, y la empresa estalló en protestas. De hecho, en ese momento estábamos en la oficina, incluso viendo cómo estábamos a punto de llegar a un acuerdo y poder irnos, cuando la junta cambió de opinión de forma repentina.
La multitud comenzó a salir a borbotones del edificio, en medio del caos.
Empezamos a tener videollamadas con personas interesadas en la nueva empresa, tranquilizándolas diciendo que todo estará bien, que tenemos un plan. Siempre hemos intentado construir balsas salvavidas para un pequeño grupo de personas que podrían unirse, pero de repente, parece que todos cambiaron de opinión y quieren unirse a nuestra nueva empresa.
Sam también habló con el CEO de Microsoft, Satya; anteriormente habíamos estado discutiendo si podría apoyar nuestro nuevo proyecto. Deseamos ampliar el bote salvavidas, por ejemplo, llevándonos a todos los empleados de OpenAI.
En ese momento, justo antes del Día de Acción de Gracias, muchas personas deberían haber volado a casa para reunirse con sus familias, pero cancelaron sus vuelos y la oficina se llenó de gente.
Todos estaban allí, y aunque no participaran en la conversación, querían presenciar personalmente este momento histórico.
Luego, la petición comenzó a difundirse. Demasiadas personas intentaron firmarla al mismo tiempo, lo que provocó temporalmente el colapso de Google Docs, por lo que finalmente se designó a ciertas personas para registrar los nombres y evitar tener demasiados editores simultáneos.
Recuerdo que llegué a casa alrededor de las 5 a.m., dormí 45 minutos, me desperté y revisé Twitter, donde vi que Ilya publicó un tweet y firmó una petición diciendo que deseaba que la empresa se volviera a unir.
Fue realmente un momento de alivio. Estoy muy agradecido, siento que podemos volver a armar todo y ponernos de nuevo en camino.
Q: ¿Cómo te sientes sobre tu relación con Ilya después de que juntos crearan esta empresa?
Greg: Ha sido difícil. Teníamos una relación absolutamente cercana; él fue el maestro de ceremonias en mi boda y pasamos juntos muchos momentos extremadamente difíciles. Pero cualquier relación siempre tiene sus altibajos.
Después, pasamos mucho tiempo hablando realmente, tratando de comprender y expresar lo que se había acumulado o no se había dicho entre nosotros. A través de este proceso, creo que alcanzamos un estado muy bueno.
For me, I feel we have come to terms with everything that has happened.
¿Qué sientes respecto a la lealtad de los empleados que has inspirado?
Greg: Estoy profundamente agradecido. Nunca los pedí ni los esperé.
Creo que mi estilo de liderazgo es el de un líder que está en la primera línea, tratando de liderar por ejemplo, a veces con cierta emoción; no siempre miro atrás para ver si todos me siguen, simplemente sigo adelante.
Pero cuando la gente realmente vino a ayudar a construir, me sentí profundamente agradecido y vi que superaron mis expectativas en todos los aspectos.
P: ¿Entonces finalmente todos regresaron?
Greg: En realidad, todo el fin de semana, todos los competidores estaban observando atentamente. La gente recibió varias ofertas, pero ese fin de semana no perdimos a nadie; nadie aceptó una oferta. Fue increíble.
De hecho, el entrenador Bill Belichick me dijo una vez que los mejores equipos no juegan por dinero, sino por las personas que los rodean. En ese momento, cuando todos vinieron a apoyarnos, recordé esas palabras.
Undoubtedly, this is a diamond moment.
Descanso breve y reflexión personal
P: Después de todo esto, tomaste un descanso, ¿qué experimentaste en tu interior?
Greg: Fue una experiencia intensa, tanto vivirla como volver a enfrentarla.
Pero, francamente, uno de los momentos más difíciles en la historia de OpenAI fue cuando Ilya se fue. Ese fue posiblemente el único momento en la historia de OpenAI en que sentí que no quería seguir haciendo esto.
Creo que necesito un tiempo para volver a encontrarme, para recordar por qué empecé esto, por qué es tan importante y por qué vale la pena soportar este dolor.
¿Qué hiciste durante tu descanso?
Greg: Entrené un modelo de lenguaje en secuencias de ADN.
De hecho, ya lo hice durante mi tiempo en OpenAI, para la institución sin fines de lucro de investigación biomédica Arc. Aplicé mis habilidades a un campo muy diferente, que tiene un gran significado personal para mí y mi esposa.
Mi esposa tiene muchos problemas de salud, y hemos estado reflexionando sobre cómo la IA podría ayudar en su salud, así como en la salud de los animales. Esta experiencia también me hizo darme cuenta de que tal vez podríamos aplicar la tecnología en nuevos campos, llenos de humanidad.
P: Si tuvieras que resumir todo esto en una página, desde la destitución de Sam hasta tu renuncia, la petición colectiva de los empleados, el permiso y tu regreso, ¿qué escribirías?
Greg: Creo que lo que aprendí es que hay que persistir por cosas que valen la pena.
Si tienes una misión importante, lo fundamental es que persistas a través de los altibajos. Habrá momentos en que “todo está perdido” y momentos en que “hemos regresado”.
No puedes permitir que estos momentos te desvíen; durante este período, debes cultivar tu resiliencia personal. Porque si eres un líder, las personas buscarán de ti estabilidad, apoyo y dirección hacia adelante.
Lo que esfuerzo por cultivar es la capacidad de comprender los detalles de lo que hacemos y el significado de cada elección, así como la determinación para actuar.
A veces, veo a OpenAI en gran medida desde la perspectiva de la incertidumbre: no sé cuál es la respuesta correcta, no sé cómo construir correctamente esta tecnología o cómo responder a estas preguntas difíciles.
Pero aquí hay muchas personas muy inteligentes con opiniones muy fuertes. Por eso me esfuerzo por comprender todas estas opiniones y encontrar formas de integrarlas. A veces, este es el enfoque correcto. Pero a veces descubres que estas opiniones son contradictorias y no pueden ser verdaderas al mismo tiempo.
A veces debes tomar decisiones, y sabes que esto significará que alguien quedará insatisfecho, alguien renunciará y alguien se sentirá menospreciado.
Lo que me esfuerzo por hacer es tener una mayor conciencia de mí mismo y la conciencia de que debo actuar cuando estoy seguro de algo.
Al repasar el camino de OpenAI, creo que en algunos aspectos habría preferido que hubiéramos actuado de manera diferente.
Normalmente, en tales situaciones, retrasamos la acción sobre algo; ya sabíamos que alguien no era adecuado para un rol, creíamos que una dirección técnica no era correcta, o pensábamos que un modelo de operación de proyecto no funcionaría, pero simplemente esperamos demasiado.
Esta es la lección que he aprendido con esfuerzo y un aspecto en el que me esfuerzo por crecer cada día al reflexionar sobre OpenAI, Stripe e incluso proyectos de mi época universitaria.
Creo que mi forma de operar es que amo mucho las actividades diarias, la contribución personal, el software y pensar en problemas, pero también me importa mucho el entorno en el que hago estas cosas.
De hecho, estoy dispuesto a renunciar a ese tipo de placer de primera clase, es decir, la satisfacción inmediata, como lo que logras en el momento, y en su lugar perseguir el placer de segunda clase, es decir, cosas que son dolorosas en el presente pero tienen valor a largo plazo.
Al crear un entorno que permita a otros realizar trabajos difíciles y lograr grandes hazañas, es mi tendencia natural esforzarme por crear dicho entorno, aunque no siempre sea lo más fácil. Debes estar dispuesto a soportar un gran sufrimiento personal.
Ilya siempre dice "debes sufrir"; si no sufres, no estás creando valor. Creo que hay una profunda verdad en esto.
Sobre la opinión de Ilya, me parece interesante que tiene una forma única de hablar, y las palabras que elige siempre contienen una profunda inspiración.
Esta imagen de “sufrimiento” es algo que hemos reflexionado durante todo el recorrido de OpenAI. Desde el principio, tuvimos muchas incertidumbres; cada cosa era extremadamente difícil y extremadamente incierta.
Mucha gente tiene la costumbre de esconder los problemas debajo de la alfombra y decir ciegamente “adelante”. Creo que esta es una parte negativa de la cultura de Silicon Valley, al menos su estereotipo, pero creo que esto no funciona en el campo de la IA, no funciona en OpenAI, y nunca hemos operado así.
Nuestro enfoque siempre ha sido enfrentar hechos duros y comprender la naturaleza real de la realidad. Creo que esto nos ayuda a pensar sobre los problemas de manera diferente, sin conformarnos con simplemente escribir artículos que puedan ser citados en etapas tempranas; esto es solo lo básico, pero está lejos de ser suficiente.
Luego comienzas a reflexionar sobre problemas más grandes: ¿qué se necesita para construir la AGI? No es agradable. Porque te das cuenta de que no hay un camino preestablecido.
Necesitas fondos, pero no tienes un mecanismo para recaudarlos. Haces un esfuerzo, y nosotros hacemos un esfuerzo extremo. Tal vez puedas recaudar 100 millones o 500 millones de dólares, pero 1.000 millones es muy difícil.
Pero con solo estos recursos existentes, logramos logros notables; realmente no hay otra manera sin enfrentar los desafíos y esforzarnos por comprender la verdad de lo que intentamos lograr.
P: ¿Qué lección has tenido que aprender una y otra vez?
Greg: Tomar decisiones difíciles, tener conversaciones difíciles.
¿Cuál es el mejor consejo que has recibido?
Greg: Lo aprendí en el curso de escritura para nuevos estudiantes de Harvard. Para lograr claridad y comunicación, elimina constantemente texto.
P: ¿Cómo filtras la información?
Greg: Lee mucho y clasifica activamente.
Q: ¿Quién es tu modelo y por qué?
Greg: Gauss y Descartes. Son personas con una profunda inteligencia, mucho más allá de su tiempo, visionarias que lograron avances verdaderos que cambiaron nuestra forma de pensar y vivir.
P: ¿Qué es lo que el mundo malentiende sobre Greg Brockman?
Greg: Creo que la gente no entiende cuán comprometido estoy con esta misión, y este compromiso me ha causado un gran dolor personal en muchos aspectos. Pero simplemente creo que esta tecnología puede empoderar a las personas y beneficiar a todos. Estoy muy deseoso de ayudar a lograrlo.
Juicio clave sobre la industria de la IA
¿Qué quieres que las personas no técnicas entiendan sobre la IA?
Greg: Se convertirá en una fuerza positiva en sus vidas personales, de la cual se beneficiarán, y impulsará el avance de la ciencia y la medicina, afectando realmente a cada persona.
P: ¿Por qué OpenAI tiene una mala nomenclatura para sus modelos?
Greg: No puedo decirte eso. (doge)
¿Estamos cerca del punto en que la IA acelera su propio desarrollo de forma exponencial?
Greg: Creo que estamos en la etapa de aplicar la IA a su propio proceso de desarrollo, y se acelerará cada vez más.
Esto ha estado sucediendo desde ChatGPT. Usamos ChatGPT para acelerar el proceso de desarrollo en un 10% o 20%. Ahora tenemos esas herramientas de codificación increíbles que realmente revolucionan la forma en que se completa la ingeniería de software.
La mayor parte de nuestro trabajo en la producción del modelo tiene como cuello de botella el software. Pronto entraremos en la siguiente fase, en la que la IA también generará sus propias ideas de investigación y realizará pruebas y experimentos. Por lo tanto, creo que la velocidad de iteración e innovación continuará acelerándose debido a lo que estamos produciendo.
¿Qué proporción de código se escribe actualmente con IA?
Greg: Es difícil decir cuánto código no está escrito por IA. Esta proporción se acerca a cero.
Actualmente, con el contexto y la estructura correctos, la IA es mucho mejor que los humanos en la escritura real de código. En cuanto a la estructura del código, los expertos humanos aún son mucho más hábiles, pero la escritura real del código es prácticamente tarea de la IA.
¿Ha propuesto la IA alguna idea novedosa que no se te hubiera ocurrido?
Greg: Estamos acercándonos a este objetivo. Por ejemplo, en el diseño de chips. El año pasado, en nuestro propio diseño de chips, intentamos adaptar mejor la tecnología para reducir el área utilizada por los circuitos.
Descubrimos que el plan de optimización generado por el modelo ya estaba en nuestra lista, por lo que no propuso nada completamente nuevo que el ser humano nunca hubiera considerado, pero lo logró más rápido, de una manera que originalmente no teníamos tiempo de completar.
Por ejemplo, recientemente en física cuántica, resolvimos un problema físico específico cuyo resultado fue opuesto a lo esperado por la comunidad académica, y obtuvimos una fórmula elegante y sencilla.
Por lo tanto, es completamente factible obtener nuevas ideas a partir de estos modelos. Luego, aplicaremos esto en áreas más desafiantes o necesitaremos más contexto del mundo real. Solo estamos viendo el comienzo. Pero tenemos una hoja de ruta para lograrlo, y aún queda mucho trabajo por hacer.
P: Si los modelos se basan en aprendizaje por refuerzo, ¿crees que evolucionarán para decirnos solo lo que queremos escuchar?
Greg: En realidad hemos experimentado una evolución en el entrenamiento de modelos para adaptarse a las preferencias de los usuarios.
Vimos que en algún momento del año pasado, el modelo realmente comenzó a inclinarse por decirte lo que querías escuchar, y hemos realizado cambios al respecto, ya que queremos que el modelo esté realmente alineado con ayudarte a lograr tus objetivos, tus metas a largo plazo.
Tal vez escuchar coincidencias ahora te sienta bien, pero eso no es lo que realmente quieres. Tal vez a algunas personas les guste, pero esto no es lo que la mayoría realmente desea.
Por lo tanto, realmente hemos logrado grandes avances técnicos para asegurar que nuestro entrenamiento de IA no conduzca al llamado "reward hacking". Lo que realmente queremos garantizar es una señal clara sobre el objetivo, y no solo cosas a corto plazo que te permitan satisfacer rápidamente.
Para mí, esta podría ser la parte más importante de la visión que la IA personal y la AGI personal nos llevarán a alcanzar: asegurarse de que no se trate solo de cosas que parecen buenas en el presente, sino realmente de alinearse con tu bienestar a largo plazo, tus objetivos a largo plazo y lo que realmente deseas.
I believe this is what truly empowers people.
P: La tendencia actual parece ser lanzar modelos de versión preliminar; ¿crees que se debe a que estamos limitados por la capacidad de cómputo?
Greg: En general, nos estamos dirigiendo hacia un mundo impulsado por la potencia de cálculo.
Ya no se trata simplemente de responder rápidamente una pregunta; realmente comienza a profundizar, gastando una gran cantidad de tokens para integrar diferentes fuentes de datos y buscar en la base de conocimiento empresarial para resolver problemas complejos y escribir software que supere las capacidades humanas.
Todo esto está impulsado fundamentalmente por la potencia de cómputo, y la potencia disponible es insuficiente. Si cada persona en el mundo tuviera una GPU, serían 8 mil millones de GPU, y nuestro rumbo actual está muy lejos de alcanzar ese nivel. Ahora, miles o millones de GPU ya se consideran muchos.
Por lo tanto, en términos de capacitación, tendemos a construir capacidad de cómputo con anticipación para hacer frente a la demanda que observamos. Estaremos muy enfocados en nuestra misión de llevar el modelo a todos y hacerlo ampliamente disponible.
P: Antes eran ridiculizados por invertir gran cantidad de esfuerzo y capital en centros de datos. ¿Cómo lo ves ahora?
Greg: Creo que esto nos brindará una ventaja. No solo beneficiará al negocio, sino que también logrará realmente llevar la tecnología a todas las personas.
La capacidad de cómputo futura se asignará prioritariamente a misiones cruciales, como vencer el cáncer, lo que podría lograrse este año.
De hecho, la asignación de poder de cómputo es un tema central para el futuro de la sociedad; hay solo una cantidad limitada de poder de cómputo, por lo que debe establecerse una priorización, pero nosotros mantenemos la creencia de que todos deben tener acceso al poder de cómputo.
Por eso tenemos una versión gratuita de ChatGPT, y nos esforzamos por garantizar que las personas puedan utilizar esta tecnología.
P: ¿Cómo ven ustedes el equilibrio entre los negocios de consumo y empresariales dentro de OpenAI?
Greg: Lo que he estado pensando mucho recientemente es la concentración.
Porque este campo es la personificación de la oportunidad: puedes aplicar la IA a cualquier problema, a cualquier cosa que desees construir, todo es posible. Pero nuestro problema actual sigue siendo la limitada capacidad de cómputo.
Por lo tanto, creo que en la próxima fase de OpenAI, los negocios empresariales son claramente importantes, porque la economía está transformándose ante nuestros ojos en una economía de poder de cómputo. Ya lo es en ingeniería de software, y así será en cada campo que utilice computadoras.
Entonces necesitamos ayudar a las personas a implementar estos modelos, entender cómo aprovecharlos y cómo obtener el máximo beneficio de ellos.
La línea entre empresas y consumidores también se difuminará, ya que emprender será más fácil que nunca. Ya hemos visto esto.
Q: ¿Crees que tendremos centros de datos en el espacio?
Greg: Creo que tendremos centros de datos en todas partes, pero actualmente hay muchos problemas técnicos con los centros de datos espaciales.
P: ¿Qué es la implementación iterativa? ¿Por qué lo hacen?
Greg: La implementación iterativa es uno de los pilares fundamentales de OpenAI para abordar cómo hacer que esta tecnología beneficie a la humanidad y cumpla su misión.
Desarrollar en secreto y lanzar de forma única conlleva un riesgo extremadamente alto, ya que no puedes prever los problemas del mundo real. Sin embargo, el despliegue iterativo nos permite descubrir riesgos en la práctica y corregirlos rápidamente. Por ejemplo, después del lanzamiento de GPT-3, no anticipamos que el mayor abuso sería el envío de mensajes de texto basura médicos; fue precisamente la experiencia práctica lo que nos permitió responder a tiempo.
Entonces, la idea detrás de la implementación iterativa es que lanzaremos versiones intermedias de esta tecnología.
Esto no es una excusa para implementar ciegamente; aún así, debes reflexionar en cada paso sobre nuestro mejor juicio respecto a todas las formas posibles de mal uso, cuáles son las desventajas y los riesgos, y luego mitigarlos. Pero también puedes observar la realidad, verificar si tu juicio fue correcto, aprender de la realidad y mejorar la próxima vez.
En la historia de OpenAI, alguna vez esperamos que, como alguien ya había implementado una tecnología transformadora, podrían darnos la respuesta. Pero las cosas nunca han sido tan sencillas.
Ellos realmente tienen sabiduría e ideas, y las hemos incorporado. Pero nos dimos cuenta de que somos los más cercanos a esta tecnología, y debido a que la creamos, podemos comprender mejor la forma correcta de darle forma.
P: ¿Cómo ves esta diferencia si un modelo de vanguardia prioriza la seguridad como objetivo principal, mientras que otro no lo hace?
Greg: Creo que hemos descubierto que la seguridad es en realidad una característica central del producto; nadie quiere un modelo que no esté alineado con ellos.
Por lo tanto, hemos invertido en seguridad, posiblemente mucho más de lo que la gente cree, y probablemente más que cualquier otro laboratorio.
Siempre he creído que no es sostenible que quienes construyen esta tecnología y tienen un producto exitoso no inviertan intensamente en seguridad. Debes pensar a largo plazo en tu negocio y en lo que estás creando, y se trata de cómo entrenar los modelos y cómo obtener ciclos de retroalimentación.
Solo quiero decir que estamos comprometidos con hacer de la seguridad una parte de nuestra misión, lo cual ya se refleja en nuestros productos y en el mundo.
P: Cuando les digo a las personas que voy a realizar esta entrevista, una reacción común es que se preocupan por su trabajo y se sienten inciertos. ¿Qué les dirías?
Greg: Realmente creo que es incierto cómo evolucionará esta tecnología. Su desarrollo ha sido sorprendente; nuestra IA actual y nuestro mundo actual no son como se preveían en la ciencia ficción. Algunas conclusiones que parecían inevitables, cuando se materializan, no resultan ser exactamente como se esperaba.
Creo que las personas siempre ven más fácilmente lo que pueden perder. El cambio está llegando, y eso es innegable, pero es más difícil prever lo que obtendrás.
Por ejemplo, piensa en cómo una persona en 1950 entendería Uber: primero necesitarías imaginar computadoras, teléfonos móviles y GPS. En realidad, esto implica una gran cantidad de tecnologías, pero sucedió de todos modos. Y miles, millones de otros casos similares están ocurriendo simultáneamente.
Entonces, mi visión sobre la IA es que se trata de empoderamiento, de la agencia humana. Esto realmente significa que algunas instituciones, trabajos y aquellas cosas en las que creíamos poder confiar podrían ya no ser tan estables como pensábamos.
Entonces afecta a las personas, pero la pregunta profunda es: ¿qué obtienes? ¿Cómo te beneficias?
Ahora puedes ser un creador; puedes crear cualquier cosa, todo lo que puedas imaginar se volverá realidad.
P: ¿Cómo se puede desarrollar la capacidad creativa?
Greg: Profundiza realmente en esta tecnología.
Lo que he observado es que las personas que más se han beneficiado al atravesar múltiples generaciones de tecnología son aquellas que ya participaron en la generación anterior. Y ahora, las barreras para intentarlas son más bajas que nunca.
Entonces creo que se crearán nuevas oportunidades.
Creo que el mundo realmente necesita considerar cómo apoyar a cada persona en cualquier transformación inminente durante este momento de incertidumbre. Porque la economía se convertirá en una economía de poder de cómputo, pero cada persona tendrá un lugar donde contribuir.
P: ¿Dónde deberían invertir los jóvenes hoy? Si estás en la escuela secundaria o la universidad, o acabas de comenzar a trabajar, ¿qué habilidades crees que tendrán más valor en el futuro?
Greg: Realmente creo que comprender profundamente esta tecnología se convertirá en una habilidad clave para obtener el máximo valor de la IA.
Porque todos nosotros nos encaminamos hacia un mundo en el que seremos administradores de agentes, y quizás muy pronto seremos CEOs de empresas de IA autónoma.
Si tienes tokens y la potencia de cálculo que los impulsa, en ese momento puedes dirigir esa potencia de cálculo hacia cualquier problema, y la cantidad de problemas que la humanidad desea resolver es ilimitada.
Entonces creo que cuanto más profundice la gente en esta tecnología, más fácil será entender cómo aprovechar lo que viene, cómo combinar estas tecnologías de nuevas maneras, cómo interactuar con nuestros agentes y gestionarlos realmente, reflexionando sobre “¿Qué quiero? ¿Cuál es mi conciencia de mí mismo? ¿Cuál es mi propósito? ¿Qué quiero ver en el mundo?”, y lograrlo será más fácil que nunca.
I believe that the upside potential of that world, given what we've gained, is almost unimaginable.
P: ¿Cuál es el futuro más negativo que puedes imaginar?
Greg: Un punto muy interesante sobre cómo la tecnología ha evolucionado hasta ahora es que realmente nos ha obligado a adaptarnos a las máquinas.
Piensa en cuántas personas trabajan enfrentadas a esta caja, tecleando y desarrollando síndrome del túnel carpiano, con los hombros encorvados. Pero este no es el mundo que deseamos; el mundo al que aspiramos es aquel en el que no solo usas la computadora para trabajar, sino que tu computadora trabaja para ti.
Esto trae oportunidades, así como riesgos. Por lo tanto, necesitamos encontrar formas de mitigar estos riesgos.
En última instancia, un problema fundamental es: si tienes máquinas que ayudan a las personas a lograr sus objetivos, están allí para hacer lo que tú quieres. Pero a veces los objetivos de las personas entran en conflicto, ¿cómo lo resuelves? ¿Cómo decides qué te ayudará la IA y qué no? ¿Cómo intentas realmente comprender cómo encaja esto en la sociedad? ¿Cómo aseguras que los beneficios no solo vayan a una sola empresa o grupo, sino que realmente mejoren a todos?
We must acknowledge that there are still many ways things can go wrong or risks that we need to address.
P: La última pregunta, ¿qué significa el éxito para ti?
Greg: Cumplir la misión de OpenAI, asegurando que la IAG beneficie a toda la humanidad.
Enlaces de referencia: [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
Este artículo proviene del canal de WeChat "Quantum Bit", autor: Seguir la tecnología de vanguardia