次なる金融危機は人為的ではなく、AIが引き起こす可能性がある？
最近の衝撃的なニュース——AI業界の巨頭Anthropicが新モデルMythosを発表し、ウォールストリート全体を震撼させた。
01
Mythosモデルがリリースされた当日、非常に珍しい光景が見られた：
アメリカ財務長官ベセンテと連邦準備制度理事会議長パウエルは、通常の議題を一切中断し、ウォールストリートの主要銀行CEO全員を財務省に緊急招集して非公開協議を行った。
アメリカ財務長官スコット・ベセンテ（左）と連邦準備制度理事会議長ジェローム・パウエル（右）
参加者には、シティグループCEOのジェーン・フリーザー、ゴールドマン・サックスCEOのデビッド・ソロモン、モルガン・スタンレーCEOのテッド・ピックなど、米国金融システムの中心的な権力者たちが含まれている。
米連邦準備制度理事会と財務省がこのようなレベルの緊急召喚令を発動したのは、2008年のサブプライム危機時の緊急対応が最後かもしれない。
しかし今回は、彼らの目的は「資金を調達して市場を救う」ことではなく、最新のAIモデルMythosがリリースされたばかりであるにもかかわらず、その引き起こすシステムリスクが当時のサブプライムローン危機を上回る可能性があることを銀行に認識させることです。
パウエルの直接出席は、外部に非常に重いシグナルを送った：
これは技術的な議論ではなく、金融の安定乃至国家の安全にかかわる最上位の課題である。
しかし、これは米国だけの警戒ではなく、市場の不安は大西洋を越えて急速に広がりました。ほぼ同時に、イギリス中央銀行と金融行動規制局（FCA）は、国家サイバーセキュリティセンター（NCSC）と緊急協議を開始しました。
カナダ中央銀行は、自国の銀行および金融機関を個別に招集し、最高レベルのリスク通知を行った。
米国、英国、カナダの中央銀行が10日間以内に行なった連続的な行動は、AI規制の歴史において前例がない。
02
Mythosはどれほど凄いのでしょうか？
Anthropicは、Mythosが世界中の銀行、電力網、政府機関の運用ソフトウェアに隠された脆弱性を発見する驚異的な能力を持つと主張している。
OpenAIのCEO、サム・アルトマンは、Mythosを「爆弾を投げながら、1億ドルの防空壕を販売する」ように比喩した。
簡単に言えば、それはすべての主要なオペレーティングシステムとすべての主要なWebブラウザの脆弱性を認識し、人間の指示なしにシステムに壊滅的な攻撃を加えることができます。
その中で、Mythosは数週間の内部テスト中に「数千個」のゼロデイ脆弱性を自ら発見しました。また、高セキュリティで知られるOpenBSDシステムに27年間隠されていた古くからの脆弱性も特定しました。
同時に、彼は別の動画処理ツールにおいて16年間隠れていた脆弱性を発見した——この脆弱性は、これまで最高レベルの自動化テストツールが数百万回実行しても、まるで盲人が象を摸るような形でまったく気づかなかった。
以前、最高レベルの人類のハッカーチームは1年で最大100個のこのような深刻な脆弱性を発見していました。Mythosの出力量は、最高レベルの人類チームの10倍から100倍に達し、脆弱性の悪用プログラムの開発時間を「数週間」から「数時間」に短縮できます。
一般的に、金融機関の「ファイアウォール」は、世界で最も堅固な防衛区域であり、世界トップレベルのセキュリティ専門家が城壁のように配置されている。
しかし、Mythosは非対称的な破壊力を示し、金融の「防火壁」を無力化しています。
これは2つの致命的な問題を引き起こします：
まず、Mythosが不法分子によって金融システムを攻撃するために使われる可能性はあるでしょうか？今後、私たちが銀行口座に預けているお金は安全でしょうか？
第二に、今後同様のモデルが、敵対国の人々や企業を攻撃するために、ある国によって「兵器化」される可能性はあるでしょうか？
考えると恐ろしい。
開発者であるAnthropicでさえもやや恐れ、自ら発表したところ、Mythosは一般公開せず、少数の機関に限定してテスト用に提供する。
03
時代の変化は、対応する余裕すら与えないほど速い。
智谷トレンドリサーチャーのタン・シャオユーは、AIの進化が想像を絶する分断を生み出しており、これは認知の溝であるだけでなく、権力の大きな格差でもあると述べている。
一般の人がまだ豆包やDeepSeekをチャットボットと見なしている間に、世界最高レベルのAIチームが掌握している大規模モデルは、金融システムの基盤を覆すほどに達している。
最近のモルガン・スタンレーの報告によると、AIは過去のどの技術革命とも異なり、その速度が根本的に異なる。
人類が産業革命を完了するのに60年かかったが、インターネットは30年、ChatGPTは1億ユーザーに達するのにたった2か月しかかからなかった。技術の拡散曲線は、息が詰まるほど急峻だ。
問題は、技術の進化と規制法案の制定、社会および企業の防御メカニズム、人材教育の速度との間に、歴史的な限界を超える隔たりが生じていることです。
国家経済委員会委員長のケビン・ハセットがインタビューで認めたように：
ホワイトハウスや政府レベルでも、この爆発的な進化に対して十分な対応準備ができていない。
ゴールドマン・サックスのCEO、ソロモンは、現在の防御ラインが「ファイアウォールを継続的に強化する」から「最強のAIで最強のAIに立ち向かう必要がある」に変わったため、この脅威を「高度に警戒すべき」と表現した。
これは、技術の急激な進歩と社会の適応速度の差が、歴史的な限界まで拡大されたことを意味する。摩擦はかつてないほど激しくなるだろう。
マスクが述べたように、「今後3〜7年間、一般の人々は難しい時期を迎える可能性があります。」
これに対応するため、一般の人々は生涯学習の姿勢を身につける必要があります。複雑な問題を継続的に定義し、提起する能力こそが、AI時代における最大の競争優位性です。
同時に、AIはあなたのスキルを代替できますが、あなたの資産を代替することはできません。「時間の売却」に依存しない収入構造を構築することが、より重要になっています。
本文は微信公众号「智谷趋势Trend」より、著者：布語