La IA de código abierto está tomando un camino peligroso, y estos días Silicon Valley se ha enzarzado en intensos debates sobre los modelos de pesos abiertos. Nvidia @nvidia lideró una carta abierta que argumenta que Washington no debería limitar los modelos de pesos abiertos. Pasado un fin de semana, ya son 50 las firmas que han respaldado la carta, incluyendo a OpenAI @OpenAI, Google y SpaceX. La única que aún no ha emitido un comentario es @AnthropicAI, ya que el CEO de Anthropic afirma que la IA de código abierto está encaminándose por un camino peligroso. Dario Amodei @DarioAmodei señaló que cuando controlas y despliegas un modelo, puedes vigilar constantemente cómo se utiliza; incluso si en algún momento es mal utilizado, aún puedes intervenir y modificar lo que el modelo está dispuesto a hacer. Pero una vez que el modelo se libera sin control, pierdes completamente esa capacidad, y todo queda al azar. Él indicó que, en general, el código abierto beneficia a los pequeños desarrolladores para una rápida iteración, pero ahora las grandes empresas que han invertido decenas de millones, o incluso miles de millones de dólares, en entrenar modelos grandes, no deberían liberar sus productos finales sin control.