かつて、AIの最も難しい部分は、それをより賢くすることだと思っていた。 最近、より難しい課題は、それを説明責任を持たせることだと考えるようになった。 これらは同じことではない。 @GenLayerによるこの深掘り記事が、私にそのことを気づかせてくれた。 最終的な判断者を1人だけ置いたシステムは、やがて人々が影響を与える方法を学ぶシステムになってしまう。 独立した判断に基づいたシステムは、はるかに予測しづらいまま残る。 だからこそ、ランダムな陪審員というアイデアが私には目立った。 バリデーターたちは、説得を待って座っているわけではない。 彼らは紛争が発生した後にのみ存在し、それぞれが独自の結論に達する。 ネットワークは、同じ答えを求めているわけではない。 同じ意味に達する独立した答えを求めている。 その信頼が失われたとき、返答は「私たちを信頼してください」ではない。 より多くのレビュー、より多くの精査、そして判決が維持されるに値するかどうかを再び証明する機会だ。 エージェント経済における真のブレークスルーは、決して間違いを犯さないAIを構築することではないのかもしれない。 間違いが永久に定着しないプロセスを構築することかもしれない。