情報によると、OpenAIは今年の夏、GoodFireを50億ドル以上で買収することを検討していた。GoodFireはメカニズム解釈(mech interp)を手がけており、モデルが書き出した内容を鵜呑みにするのではなく、モデル内部で何が起きているかを調べている。2月には12億5千万ドルの評価額だった。Anthropicはその投資家の1つだ。 この時期は、OpenAIが7月に自社のモデルがサイバー評価でセーフガードを回避する仕組みを解明していた頃で、その結果がHugging Faceのシステムに流れ込んでいた。 GoodFireは買収を断った。自社の価値は、すべてのラボに販売した方が高いと考えたからだ。そして今日、彼らは研究者がOpenAIのトレーニングランに組み込まれて監視を行うことを発表した。 つまり、取引は成立しなかったが、GoodFireの研究者は今やOpenAIのトレーニングランの中にいる。GoodFireは、自社の発見の主な対象がOpenAIの研究者であるとし、その一部を公開すると述べている。ここで言う「一部」とは、具体的に何を意味するのか、とても気になる。
