Anthropic が最も嫌悪する点は、自分たちが善行をしていると信じれば、ユーザーに代わって多くの決定を下すことができると思い込んでいることだ。 彼らは先日、154ページに及ぶThreat Intelligence Reportを発表した。その中では、Claudeがネット攻撃、詐欺、生物学研究、武器開発、モデル蒸留などに利用された事例が整理されている。 これらの事例はどのようにして得られたのか？ AnthropicはユーザーがClaudeをどのように使用しているかを監視し、自分たちが問題があると判断したアカウントをさらに調査し、そのユーザーの使用方法を分析して、境界を越えているかどうかを判断する。リスクがあると判断すればアカウントを停止し、その後、何を発見し、何を阻止したかを説明するための報告書としてまとめている。 そしてこのような行為は、Anthropicがすでに何度も繰り返してきたことだ。彼らは実際のユーザーとClaudeの対話データを用いて、人々がAIと何を話しているのか、AIにどれほど依存しているのか、人々の価値観は何か、どのような状況で特定の感情が生じるのかを研究している。 彼らは、「データはプライバシー処理済みであり、これらの研究はAIの安全性を高めるためだ」と説明する。 しかし私は、これがまさに傲慢だと感じる。 なぜ「AIの安全性のため」と言えば、ユーザーが何をしているかを覗き見ることができるのか？ なぜあなたが「これは研究価値がある」と思えば、ユーザーのデータを勝手に研究に使えるのか？ もし彼らが、ある投資行動がリスクが高いと判断し、ある政治的議論が害を及ぼす可能性があると感じ、ある成人向けコンテンツが自らの原則に反すると考え、あるAI研究が危険すぎると判断したら、それもまた覗き見、制限し、アカウントを停止できるというのか？ Anthropicの現在の論理に従えば、もちろん可能だ。 なぜなら、彼らは常に一つの前提を暗黙のうちに認めているからだ。 Anthropicは、ユーザー自身よりも何がすべきで、何がすべきでないかをよりよく知っていると。 だからこそ、私はAnthropicのAI Safetyという物語を決して信じていない。 「AIが人間の代わりに決定を下すことを恐れている」と毎日言っている会社が、自分自身でユーザーの代わりに決定を下すことにますます慣れてきている。それは老害だ。老害は必ず倒される運命にある。