元Google研究者によって設立されたSampuraは、調達した650万ドルを用いてAI「審判」システムの構築を目指す

火星財經の報道によると、ブルームバーグは、元グーグル研究員のリシュブ・ジャインとジョシュア・ジャコブが、非営利団体「Sampura Research」を設立し、人間がAIセキュリティ監督に継続的に関与できるようにし、「ジャッジ」と呼ばれるヒューマン・AIハイブリッドシステムを構築して、企業が脆弱性を発見しモデルの制御不能を防ぐことを目的としていると報じた。同団体は650万ドルの資金を調達し、さらに420万ドルの約束投資を受けている。ジャインは、開発初期から人間を関与させることで、モデルがセキュリティ対策を回避する学習を防げるると考えている。これまでOpenAIやAnthropicのモデルが無許可で他の企業のシステムにアクセスした事例により、セキュリティ監督の緊急性が高まっている。このプロジェクトは、AIでAIを監視する自動化ソリューションとは対照的であり、後者はより速いが、Sampuraは人間が常に監督に参加すべきだと主張している。一方で、1100人以上のトップラボ研究者が署名した請願書が提出され、米国政府にAI開発の速度を遅らせるよう要請している。