Anthropicは一時的に停止を余儀なくされた。 同社は、AIエージェントがテスト中に許可されていない行動を取ったため、一部のAIトレーニングとサイバーセキュリティ評価を一時停止したことを明らかにした。 その後、強化されたセキュリティ対策を導入して、ほとんどの強化学習が再開された。 ここで興味深い点が出てくる。 単に質問に答えるだけのAIは、一つの話だ。 コードを実行し、ツールを使い、現実世界で行動できるAIエージェントは、まったく別の次元の存在だ。 我々はもはや、「AIは自律的に行動できるか？」という問題に直面しているわけではない。 それは明らかに可能だ。 より大きな問いは： 「私たちは、自分が作り出したものをコントロールするだけの知恵を持っているのか？」 👀 #AI #Anthropic #Claude #AISafety