AIの安全に関する議論が高まる中、海外メディアは、ジェフリー・ヒントン、リ・フィフェイ、ウー・エンダが最近ラスベガスで開催されたAi4会議で、オープンモデルの問題に集中して言及したと報じた。三人の立場は完全には一致していないが、いずれも少数の大手テクノロジー企業がAIの発展のペースを支配することに反対している。
少数の企業が入口を独占することに反対
記事によると、3人の研究者は、AIが少数の企業に支配される場合、イノベーションの幅が狭まると共通して懸念している。ウー・エンダは、AI分野に「守門人」が現れることを望まないと明言し、それは開発者、企業、一般市民がAIにアクセスする方法を制限すると述べた。
彼は、大企業は自然に自らの優位性を守り、業界のルール形成にも影響を与える可能性があると考えている。その結果、資金が最も豊かで、計算能力が最も強い企業だけが、最先端のシステムを継続的に構築できる可能性がある。吴恩達が提唱する方向性は、複数のモデル提供者が共存するよう努め、モデルや企業が市場で競争するようにすることであり、少数のプラットフォームが支配的な地位を占めるのを防ぐことである。
ヒントンはオープンソースコードとオープンウェイトを区別する
しかし、ヒントンは「オープンソースソフトウェア」と「オープンウェイトモデル」を同じものとは見なしていない。彼の説明によれば、オープンソースソフトウェアはコードを公開し、外部は脆弱性をチェックし修正を提案できるが、オープンウェイトは訓練済みの大規模モデルのパラメータを直接外部に提供するため、二次開発の障壁が大幅に低下する。
彼は、過去にオープンウェイトに反対していた理由は、これにより一部の者が基礎モデルをより低コストでネットワーク攻撃などの目的に転用できるようになるからだと述べた。しかし、彼は同時に、現実においてこの議論を逆転させることはもはや困難であることを認めた。オープンウェイトモデルが次々と登場する中で、訓練コストがかつて築いていた障壁は明らかに低減されている。
それでも、ヒントンはAIの開発を停止すべきだと主張していない。記事によると、彼はAIが生産性を向上させ、教育や医療などの分野を改善すると信じているが、その一方で潜在的なリスクを無視することはできないと考えている。また、AIのリスクに懸念を抱くすべての人を「パニックを煽る者」と一括りにすることは不公平だと述べている。
李飛飛は階層的オープンを提唱しています。
ウー・エンダは開放的な競争を強調し、ヒントンは安全上のリスクを強調するのに対し、リー・フィーフェイは、議論を「完全開放」または「完全閉鎖」の二択に単純化することに反対している。彼女は、複雑なソフトウェアや研究システムには本来複数のレベルが存在し、異なる段階で異なる程度の開放を採用できると考えている。
彼女は核物理学を例に挙げ、学術論文は公開できるが、ウラン材料は厳格に規制され、実験段階はその中間にあると述べた。これに基づき、AIも同様のアプローチを取れると考え、研究発見、教育、国際協力の面では一定の開放性を維持しつつ、企業がクローズドソースシステムとビジネスモデルを保持できるようにすべきだと主張した。
記事はまた、李飛飛がヒトゲノム計画を引用し、公共機関と民間セクターが協力して構築した基盤的な知識プラットフォームは、科学研究の推進、企業の利益、社会的応用を同時に実現できると述べている。彼女は、AIインフラストラクチャもこのような方向に進むべきであり、非此即彼の議論に陥るべきではないと考ている。
3人とも規制が必要であることに賛成した
三人はオープンモデルの境界について異なる見解を示しているが、規制の問題については近い立場を取っている。記事によると、三人はAIが社会により良い方向で発展するためには、ある程度の規則が必要であるとみなしている。
ヒントンは、AIの発展方向を起業家に完全に委ねるべきではないと述べた。オープンモデルを巡る議論は、今や技術路線の争いにとどまらず、業界内の権力分配、国際競争、およびAIセキュリティガバナンスの方向性にも関わっている。