

誰かのウォレットにアクセスしなくても、AIが資金を送る先を操作することは可能だ。 必要なのは、AIが読み取る情報を操作することだけだ。 小さなビジネスの支払いを管理するAIエージェントを想像してみよう。このエージェントはサプライヤーの更新情報を確認し、公開投稿を読み取り、請求書を処理し、どの支払いに注意を払うべきかを判断する。 悪意のある指示は、所有者からのコマンドのように見える必要はない。エージェントに読むように指示されたコンテンツの中に隠すことができる。 これがプロンプトインジェクションの不快な点だ。エージェントはあなたが指示した通りに動作している一方で、攻撃者は静かに情報の解釈方法を変えようとしている。 これはもはや仮説ではない。ツイート内に隠されたモールス符号の指示が解読され、実行された結果、AIエージェントが約20万ドルを送金したと報告されている。 1つのモデルと1つのフィルターに依存する問題は、攻撃者が研究すべき防御が1つだけであるということだ。 Greyboxingはこれとは異なるアプローチを取る。 @GenLayerでは、すべてのバリデーターが、モデルが見ることの前に独自の秘密の防御手段で入力された情報を書き換える。各バリデーターはリクエストを評価し、他のバリデーターが攻撃に引っかかったものを過半数で却下できる。 私が興味深いと感じる点は、セキュリティの考え方の転換だ。 1つのAIを絶対に欺けないようにするのではなく、1つのAIを欺くだけでは不十分な仕組みが設計されている。 もしエージェントがあなたの資金を動かせるなら、そのセキュリティは1つのモデルが正しい判断を下すことに依存すべきだろうか?

スマートコントラクトが「すべてが順調だった」と宣言したにもかかわらず、関係者全員が何らかの問題が起きたと認識している場合、どうなるでしょうか? 契約条件がすべて満たされたため、業者は自動的に支払いを受けます。 支払いは最終的です。コードは設計通りに正確に動作しました。 しかし、クライアントが受け取った作業は、チェックリストには技術的に合致しているものの、実際の合意内容には及んでいません。 業者は契約書を指差し、クライアントは結果を指差します。 どちらの側も損失を負うべきではないと考えています。 ここに、自動化された契約が直面する難しい問いがあります。書かれたルールが現実のすべてを捉えられていないとき、誰が「公平」を判断するのでしょうか? 今、AIエージェントが人間のレビューなしに数百万の取引を交渉していると想像してください。品質、意図、責任に関する紛争は、稀な例外ではなく、デジタル経済にとって現実的な課題になります。 スマートコントラクトは事前に定義されたルールを強制できますが、公平性は文脈や証拠、そして単純なイエス・ノーでは還元できない要素に依存します。 そのため、実行には紛争解決レイヤーが必要です。 @GenLayerのインテリジェントコントラクトは、独立したAIバリデーターをプロセスに導入し、主観的な問いを評価し、決定論的なルールだけでは十分でない場合に合意に達します。 コードがすべての指示に従っても、保護されるべき人々を失望させる可能性があるからです。 コードが「すべて解決済み」と宣言したとき、一方の当事者が「不公平だった」と主張した場合、最終的な判断は誰が下すべきでしょうか? #JusticeNeedsAnUpgrade

スマートコントラクトは5万ドルをエスクローに保有できますが、作業が実際に完了したかどうかを判断することはできません。 これがオンチェーン契約の本当の問題です。お金は信頼なしに移動できますが、現実世界で何が起きたかを誰かが検証する必要があるのです。 そして、その検証はしばしば、誰かの言葉やスクリーンショットに頼ることになります。 @GenLayerは異なるアプローチを模索しています:バリデーターが独自のAIモデルを使用して証拠を評価し、互いの結論を挑戦し、異議を問題報告するのです。 一つの権威への盲目的な信頼ではなく、判断が疑問視できるプロセスです。 このシステムに、あなたが最初に信頼して任せたい現実世界の契約はなんですか?





