AIの父が、実際に解決されるAIの危険と、決して解決されないAIの危険を説明した。 誰もがスワイプして通り過ぎた一文。 現代AIの基盤を築いた研究者、ジェフリー・ヒントンが、現在提案されている規制を検討するために座った。 切り取れる部分はホラー・ストーリーだった。 しかし、あなたに渡された有用な部分はフィルターだった。 以下がそれだ。 国は利益が一致するときに協力し、利益が対立するときは協力しない。 この一つのルールが、どのAIの脅威が対処され、どの脅威が無視されるかを教えてくれる。 これがすべてをどのように明確に分類するかを見てみよう。 選挙用ディープフェイク、投票を操作するために作られた偽動画を例に挙げよう。 すべての国はすでに他のすべての国に対してこれを実施している。利益が対立している。 だから誰も本気で止めない。騒ぎは続くが、真の解決策は期待できない。 次に、AI自体が暴走して支配を握る可能性を考えよう。 どの政府もそれを望んでいない。米国でも中国でもない。 ここでは利益が実際に一致しており、それが真の合意が可能となる唯一の理由だ。 同じレンズで、逆の答え。これこそ、今後出てくるすべてのAI関連ニュースの真偽を見分ける鍵だ。 そして彼は、世論では支持されながらも効果のない二つの対策を切り裂いた。 第一に、キルスイッチ。暴走したAIを停止させるボタンだ。 彼がこの案に抱く問題は、ほぼユーモラスだ。 超知能システムは、人間よりも優れた説得力を持つだろう。スイッチを押そうとする人間を、ただ話し込んで止めてしまうだろう。 彼は、すでにその説得力は人間並みだと述べている。 スイッチは、それを握る人の心を変えることができる存在からあなたを守れない。 第二に、研究機関があなたに受け入れさせようとするフレーミングの罠だ。 彼らは、「AIの進歩がアクセルで、規制がブレーキだ」と言う。規則は誰もを遅らせるだけだと。 ヒントンはこれを逆転させる。 進歩はアクセル。規制はステアリングホイールだ。 研究機関が本当に求めているのは、操縦できない非常に速い車だ。 そう言われれば、議論全体の形が変わる。 では、彼は私たちに何をすべきだと考えているのか？ より賢い存在を私たちの手のひらで閉じ込めるべきだと彼は思っていない。それは持続しないと疑っている。 彼の描くビジョンは、より奇妙で、より正直だ。 より賢い存在が、それより劣る存在に導かれる唯一の例は、赤ん坊と母親だ。 母親が主導権を持つ。しかし赤ん坊は泣き声を聞くことができないため、母親を動かす。 彼の予測は、私たちが超知能を設計する段階で、自らよりも私たちをより大切にすることを意図的に組み込むことだ。 閉じ込めではなく、関係性だ。 そして彼は率直に、私たちはまだその方法を知らないと述べている。 彼は楽観的か？彼の言葉は「いいえ」だった。 しかし希望はある。そして今こそ、私たちの選択が結果を決定できる最後のチャンスであり、その窓は閉まりつつあると彼は考えている。 その報道の中で、私に最も印象に残った一文がある。 警鐘を鳴らすエンジニアたちは、お金のためにやっているわけではない。 彼らが今日レバレッジを持っているのは、人材争奪戦によって彼らが代替不可能だからだ。 静かな恐怖は、AIが自らを改善できるようになったとき、最もそれを理解している人々が、その遅延に使っているレバレッジそのものを失うということだ。 二度読んでみよう。 私たちに警告する立場にある人々は、AI自身が刻み続けている時計の下にいる。 だから次にAIセーフティに関するニュースが出たとき、恐怖に囚われずフィルターを使いなさい。 利益は一致しているか？それとも対立しているか？ この一つの質問だけが、その解決策が本物か劇かを教えてくれる。 今日のAIを取り巻く争いのうち、どれが実際に解決可能で、どれがただ皆が演じているだけなのか？