人類はAGIへ向けて全力で駆け抜けているが、その先の日についてまったく準備をしていない。ターミネーターのような部分ではない。退屈な部分だ：私たちが生きるすべてのシステム——法律、保険、銀行、ソフトウェア——は壁ではなく、経済によって守られている。攻撃するにはその見返りよりもコストが高くなければならず、そのため一定量の悪用は単に価格に組み込まれており、残りは見つけるのに賢い人の時間がかかるため未発見のまま放置されている。AIはその時間を無料にし、24時間動き続ける。すべてのシステムが築かれてきた数学的前提が、今変わったのだ。 賢い人々が見て何も見つからなければ、コードは安全だった。しかし今や、誰かがエージェントをそれに対して向ければ、エージェントは永遠に探す。Anthropicのモデルは今年の夏、最高のオープンソースプロジェクトで2,300の脆弱性を発見した。そのうち1つは開示から4日後に悪用された。 病院の請求システムでは、すべての患者のすべての検査値をスキャンして余分な診断コードを見つける人はいないと仮定していた。しかしAIのコーディングツールはそうする。Blue Cross Blue Shieldは、この手法により2年間で約10億ドルの請求額が増加したと述べており、その70％はケアの変更なしに発生していた。 現金の利子は、多くの人がやや面倒だから国債に資金を移動しないと仮定している。しかしエージェントは面倒だと感じることはない。 法律、医療、税務、政府のフォーム：すべては摩擦によって価格が決定されていた。その摩擦こそが壁であり、その壁は消えた。 この世界を15年間、まさにこのように設計し続けてきた業界がある。すべての参加者が賢く、利己的で、疲れることを知らないと仮定し、それでも良い結果を生み出すシステムを設計する——それがブロックチェーンの設計思想である。かつては奇妙な趣味だったが、今や信頼できるものを構築する唯一の方法になりつつある。