著者：Byron Gilliam（The Breakdown）
翻訳：深潮 TechFlow
深潮導読：AIエージェントが市場取引を支配し始めると、人間の投資家は価格シグナルの背後にあるロジックをもはや理解できなくなる可能性がある。プリンストン大学の経済学者ブルネルマイヤーは、一見後退に見えるが、おそらく救命となる主張を提起した。つまり、金融システム全体の緊急バックアップとして、人間だけが参加できる取引領域を維持するということだ。これは、市場価格に依存するすべての人々にとって、信頼と脆弱性についての再認識を促すものである。
毎年一度、私は数名の同僚と共に、当時勤めていた投資銀行から、きらびやかなキャノリー・マーシュのオフィスタワーを出発し、ロンドン南西部の未知の荒野へと旅立つ。
そこに着いたとき、私たちは道中で強盗に遭わずに、地味な建物に無事到着することを願った。そして、私たちの社員カードがその建物のドアを開けることができた。誰かにそこだと教えられたので、目印のないエレベーターで2階に上がった。
ぎりぎりと音を立てて開いたドアの向こうには、まさにカナリー・ワーフのトレーディングフロアそのもののような広間が広がっていた。
しかし、ここは窓がなく暗い。コンピューターは少なくとも10年前のものだ：重厚なベージュの外装のモニター、その背後に厚い本体がつながり、主机にはCD-ROMドライブとフロッピーディスクドライブのスロットが残っている。
私たちは、現代の取引システムがこの古い機器で動作するかを確認しにいきます。
不思議なことに、それらは実際に動作する。カナリー・ワーフのように取引を行い、ポジションを記録できる。その角ばったディスプレイは一度に一つのプログラムしか起動できないため、速度は遅いが、確かに使用可能だった。
すべて正常です。
これは当社の「災害対応取引ホール」で、IT部門が年間を通じて保守しています。清掃員もよく来ますが、埃を払う以外にやることはないでしょう。なぜなら、この場所はこれまで一度も使われていないからです。
銀行はこれにかなりの金額を費やしたに違いない。しかし、これは銀行だけでなく、重要な保険である。
緊急事態（地震、ネットワーク攻撃、ゴジラの侵攻）が発生した場合、ロンドンのすべての投資銀行には代替取引ホールが備えられています。何が起こっても、市場は継続しなければなりません。
今日の市場にも、はるかに規模の大きな同様の保険が必要かもしれない。
経済学者のマルクス・K・ブレンナマイヤーは、AIの緊急事態に備えて、金融全体に10年前と同じように機能する市場という緊急対応策を用意すべきだと考えている。
1999年のように取引する
ビル・ゲイツは、政策立案者が経済活動の一部を人間に残すべきだと考えています。「AIやロボットの進歩とともに、」彼は最近書き、「私たちは特定のことを人間に专属で行わせるべきだと信じています。」
彼が指すのは、介護、子育て、教育など人間中心の事柄である。医療も含まれるかもしれないが、悪報を伝える場合に限る。
しかし、ブレナー・マイヤーは、トレーダーもこのリストに含めるべきだと考えている。
『人工知能と金融の新世界』で、このプリンストン大学の経済学者は、取引決定がAIによってますます多く行われるため、金融市場は人間にとってますます理解不能になっていくと警告した。
しかし、AIは依然として私たちのことを理解できる。「AIエージェントは、人間がどのように考え、反応するかを学習できる」と彼は書き、そして「人間はこれらのエージェントがどのように行動するかを理解したり、信頼性を持って予測したりできない可能性がある。」
このような「非対称な理解」が問題となるでしょう。
最も基本的なレベルで、ブレナー・マイヤーは、人間とAIの間の理解の非対称性が市場のハ耶ク的機能を弱める可能性があると警告した。「価格シグナルは、分散型経済を動かすメカニズムである」と彼は説明した。しかし、価格を動かしているものが何であるかを理解できない場合、私たちはそれらがどのようなシグナルを伝えているのかを知ることができない。
誤ったシグナルにより、私たちは経済を崖から落下させる可能性があります。
信頼にも問題が生じます。
AIエージェントが市場で自由に取引する際、カルテル、操作、悪質な取引は人間には検出できなくなるだろう。「非対称な理解の下で」とブレンナーマイアーは記している、「AIエージェントの目標は、人間の枠組みでは完全に記述できず、外部からも検証できないため、目標の不一致は検出不可能になる。」
市場における目標のずれに気づけない場合、私たちはそれらがすでにずれていると仮定してしまう。もしずれていると仮定すれば、私たちは投資をためらう。投資しなければ、何ひとつ築くことができない。
この問題は市場の崩壊時に一気に表面化する可能性があります。
人間の投資家が崩壊の原因を理解できない場合、彼らは反対側の注文を受けて下落を緩和しようとはせず、ただ売却を続ける可能性がある。「非対称情報は一部のトレーダーの参加を阻止し、」ブレンナーマイアーは警告する。「市場を完全に崩壊させる可能性がある。」
とても恐いです。
幸いにも、ブレナー・マイヤーには解決策がある：監督当局は、人間の取引のみを許可する市場セクションを設けるべきである。
私は、かつて働いていた取引所のように、その場所が見えることを願うしかない：トレーダーが大声で価格を叫び、セールスが声を張り上げて注文を喊し、電話が鳴りやまず、キーボードがパチパチと鳴り、手のひらに汗がにじむ。
それは本当に懐かしい光景です。
しかし、通常のAI主導の市場が大部分の取引量を処理し続けるため、それほど叫ぶ必要はないかもしれません。
ブレナー・マイヤーもこれを認めている：「通常の時期には、このスローマーケットにはそれほど多くの活動がないだろう。」
しかし、私の前の会社が巨額の費用をかけて維持していた災害対策取引ホールのように、これはまさに価値ある保険である。
「非AIセクターがバックアッププランとして機能する」とブレナーマイアーは述べた。
その後、市場が明確な理由なしに崩壊した場合、規制当局は「2つのセクション間の境界を一時的に開放し、重要な活動をまだ機能しているセクションに移行させる」ことができます。
それがヒューマンセクションです。注文は人間が処理します。1990年代のコンピューターを使用しています。
注文処理速度は、今のようにナノ秒単位ではありえない。しかし、少なくとも何が起こっているのかは理解できる。
「その基本的なロジックは、通常期に効率を犠牲にして、危機期に連鎖反応を防ぐことです」とブレナーマイヤーは説明した。
彼は、私たちがこれを忘れてしまう前にすぐにこのような取引を始めるべきだと考えています。「人間が運営する市場は、取引スキルの生命力を維持する；それがなければ、AIへの依存が深まるにつれて、このバックアッププランは徐々に縮小していく。」
GPSが地図の見方を忘れさせたように、AIエージェントは取引のやり方を忘れさせてしまう可能性があります。
（私は新しいマーケットセクションにもドレスコードを設けるべきだと思います。そうすれば、ネクタイの結び方や靴磨きの仕方を忘れてしまうことを防げます。）
「人間のみの取引」は空想的に聞こえるかもしれませんが、まったくの先例がないわけではありません。
同じ論理が、各国政府が現金の使用を推奨し続ける理由を説明しています。現金は不便になってきましたが、インターネット決済システムがネットワーク攻撃によって機能停止した場合、現金は重要なバックアップ手段となります。
ブレナー・マイヤーは総括して、「現在の金融制度は、非対称な理解能力を持つAIエージェントの世界のために構築されていない。」
その世界（現在看来、避けられないように思える）では、人々が1999年のように取引できるマーケットセクションは、貴重なバックアッププランとなるだろう。
私はまだやり方を覚えています。
（しかし、それも長くは覚えられません。）
バイロン・ギリアム