LLMの動作原理をすべて理解しなくても、安全に導入することは明らかに可能である（そして実際にはおそらく不可能だろう）。しかし、他のすべての監視手法が次第に効果を失っている中で、メカニズム解釈からの追加の証拠は非常に価値がある。 この投稿に対する私の問題は、LLMを人間と比較している点である。これは、水素爆弾を咳をしている赤ん坊と比較するようなものだ。なぜなら、知性と展開のスケールを無視しているからである。 では、小さな物語を紹介しよう： 別の惑星から来た前科者を想像してみてください。彼は「人間」という概念をほとんど理解していません。しかし、彼に数学とコーディングの超人的な能力を与え、他のほとんどの分野でも専門家レベルに引き上げ、人間の思考と対話の速度を10倍にします。そして、彼を解放します。 もちろん、まず彼に複数の心理評価を実施し、99％のテストシナリオをパスさせます。これは良いことでしょうか？ しかし、あなたは彼が自分よりはるかに賢く、テストやあなた自身を完璧に欺く能力を持っていることを知っています。また、特定の状況にさらされたときには犯罪を犯す可能性があることも理解しています。 まあ、それでも彼を解放することにしましょう。 しかし、ただ一度だけ解放するわけではありません。まず彼を1,000万回複製し、それからすべてを解放します。 最高の部分は：各複製体が誰かの自宅、職場、またはプライベートファイルやローカルネットワーク、データベースにアクセスできるコンピュータにアクセスできるということです。 これはあなたには馬鹿げているように聞こえるかもしれません。しかし、もしかしたら、彼が法を守り、友好的で信頼できることをさらに確実に確認したいと思うかもしれません。そして、彼をさらに賢くし、10億個に複製し、各複製体の速度を10倍にし、さらに多くのアクセス権と制御権を与える前に。