Hacktronの研究者たちはAIを用いてOpenAIに侵入し、今度は次なる侵入経路を見つけるのを手助けしている。 OpenAIはサイバーセキュリティ強化を継続しており、先日Cathedralの研究者を次のセキュリティスプリントに迎える計画を発表した後、今度はHacktronと提携し、フロンティアモデルへのアクセスを拡大して脆弱性、特にOpenAIのシステムがサードパーティサービスと接続される部分の脆弱性を特定しようとしている。 Hacktronはすでに、フォーラムの脆弱性とログインの欠陥を組み合わせることで、従業員のChatGPTアカウントにアクセスし、わずか数時間の人的作業で72時間以内に内部リポジトリへのアクセスを実証した。今後、OpenAIのフロンティアモデルへのアクセスが拡大され、さらに多くの脆弱性を発見する手助けをする予定だ。 次々と発生するハッキングや新たな脆弱性を踏まえ、研究者たちにより優れたモデルを提供する投資が進んでいることに安心している。現在、その必要性はますます高まっていると感じている。