オープンソースAIは危険な道を歩み始めている。この数日間、シリコンバレーではオープンウェイトを巡って激しい議論が繰り広げられている。 Nvidia @nvidia が主導して公開書簡を発表し、ワシントンがオープンウェイトモデルの制限を課すべきでないと主張した。週末を挟んで署名者は50社に達し、OpenAI @OpenAI、Google、SpaceX が次々と加わった。 現在、@AnthropicAI のみが立場を表明していない理由は、AnthropicのCEOがオープンソースAIは危険な道を歩み始めていると述べているからだ。 Dario Amodei @DarioAmodei は、自らモデルを管理・展開すれば、その使用方法を常に監視でき、たとえ一時的に悪用されたとしても、すぐに介入してその行動を修正できるが、モデルを制御できない形で解放すれば、その管理能力は完全に失われ、残るのは運だけだと述べた。 彼は、通常、オープンソースは小規模な開発者の高速イテレーションに有益だが、現在、数千万ドルから数億ドルを投じて大規模モデルを訓練した大手企業が、その成果物を制御せずに公開するのは異なると指摘した。