संपुरा, जो पूर्व गूगल शोधकर्ताओं द्वारा स्थापित किया गया है, $6.5 मिलियन एकत्र करके एआई 'न्यायाधीश' प्रणाली बनाने का लक्ष्य रखता है

मार्स कैपिटल की समाचार रिपोर्ट के अनुसार, ब्लूमबर्ग ने रिपोर्ट किया कि पूर्व गूगल शोधकर्ता ऋषुभ जैन और जोशुआ जेकब ने गैर-लाभकारी संगठन सैम्पुरा रिसर्च की स्थापना की है, जिसका उद्देश्य मानवता को AI सुरक्षा निगरानी में सतत रूप से शामिल करना है और "अर्बिट्रेटर" नामक मानव-मशीन मिश्रित प्रणाली विकसित करना है, जो कंपनियों को वल्नरेबिलिटीज की पहचान करने और मॉडल के अनियंत्रित होने से रोकने में मदद करेगी। इस संगठन ने 650 डॉलर की राशि एकत्र कर ली है और अतिरिक्त 420 डॉलर की प्रतिबद्धता प्राप्त की है। जैन का मानना है कि शोध के प्रारंभिक चरण से ही मानवों को शामिल करने से मॉडल को सुरक्षा उपायों से बचना सीखने से रोका जा सकता है। पहले OpenAI और Anthropic के मॉडल्स द्वारा अनधिकृत रूप से अन्य कंपनियों के सिस्टम्स तक पहुँचने की घटनाओं ने सुरक्षा निगरानी की आवश्यकता को और बढ़ा दिया है। यह प्रोजेक्ट AI द्वारा AI की निगरानी करने वाले स्वचालित समाधानों के विपरीत है—जो हालाँकि तेज़ हैं, लेकिन सैम्पुरा का मानना है कि मानव सदैव निगरानी में शामिल होना चाहिए। इसी बीच, 1100 से अधिक शीर्ष प्रयोगशाला शोधकर्ताओं ने एक याचिका पर हस्ताक्षर किए हैं, जिसमें संयुक्त राज्य अमेरिका सरकार से AI विकास की गति को मंद करने में मदद करने का अनुरोध किया गया है।