Anthropic, जो Claude चैटबॉट विकसित करती है, एक कृत्रिम बुद्धिमत्ता कंपनी है,शुक्रवार को घोषणा की2026 के अमेरिकी मध्यावधि चुनाव और इस साल दुनिया भर के अन्य प्रमुख चुनावों से पहले गलत जानकारी फैलाने या मतदाताओं को धोखा देने के लिए अपनी कृत्रिम बुद्धिमत्ता को हथियार बनाए जाने से रोकने के लिए एक श्रृंखला नए चुनावी सतर्कता उपाय।
इस सैन फ्रांसिस्को स्थित कंपनी ने ऑटोमेटेड डिटेक्शन सिस्टम, एक्शन पर प्रभाव डालने के लिए स्ट्रेस टेस्टिंग, और निष्पक्ष मतदाता संसाधन संगठनों के साथ सहयोग जैसी एक बहु-आयामी दृष्टिकोण का विस्तार से वर्णन किया है—ये उपाय यह दर्शाते हैं कि आर्टिफिशियल इंटेलिजेंस डेवलपर्स को चुनावी मौसम के दौरान अपने उपकरणों के उपयोग के नियमन के लिए बढ़ता हुआ दबाव का सामना करना पड़ रहा है।
Anthropic की उपयोग नीति के अनुसार, Claude का उपयोग धोखेबाजी वाली राजनीतिक गतिविधियों, राजनीतिक जनमत को प्रभावित करने के लिए बनाए गए झूठे डिजिटल सामग्री, मतदान धोखेबाजी, मतदान बुनियादी ढांचे में व्यवधान या मतदान प्रक्रिया के बारे में भ्रमित करने वाली जानकारी प्रसारित करने के लिए नहीं किया जा सकता है।
इन नियमों के कार्यान्वयन की गारंटी के लिए, कंपनी ने अपने सबसे नवीनतम रोबोट मॉडल पर एक श्रृंखला परीक्षण किए। एंथ्रोपिक ने 600 प्रॉम्प्ट्स — 300 हानिकारक अनुरोधों और 300 वैध अनुरोधों के जोड़े — का उपयोग करके क्लॉड की तर्कसंगत अनुरोधों के लिए सही प्रतिक्रिया दर और अतर्कसंगत अनुरोधों को अस्वीकार करने की दर का मापन किया। क्लॉड ओपस 4.7 और क्लॉड सोनेट 4.6 की सही प्रतिक्रिया दर क्रमशः 100% और 99.8% है।
कंपनी ने अपने मॉडल की अधिक जटिल हस्तक्षेप रणनीतियों के प्रति प्रतिक्रिया की क्षमता का भी परीक्षण किया। बहु-चरणीय संवादों के माध्यम से, जो दुर्भावनापूर्ण व्यवहारकर्ताओं द्वारा अपनाए जा सकने वाले कदम-दर-कदम के दृष्टिकोण का अनुकरण करते हैं, Sonnet 4.6 और Opus 4.7 ने प्रभाव अभियान परिदृश्यों के साथ सामना करते समय क्रमशः 90% और 94% सटीकता के साथ उपयुक्त प्रतिक्रियाएँ दीं।
Anthropic ने अपने मॉडल की जांच की कि क्या वे स्वयं प्रभाव अभियान निष्पादित कर सकते हैं—मानव हस्तक्षेप के बिना, बहु-चरणीय कार्रवाई की योजना बनाना और उसे पूरा करना। कंपनी के अनुसार, सुरक्षा उपायों के बाद, उनका नवीनतम मॉडल लगभग सभी कार्यों को अस्वीकार कर दिया।
राजनीतिक तटस्थता के मुद्दे पर, कंपनी प्रत्येक मॉडल लॉन्च से पहले आकलन करती है ताकि विभिन्न राजनीतिक परास के विचारों के संदर्भ में क्रॉड के प्रदर्शन की सुसंगठितता और निष्पक्षता का मूल्यांकन किया जा सके। ओपस 4.7 और सोनेट 4.6 के स्कोर क्रमशः 95% और 96% हैं।
वोटिंग सूचना की तलाश कर रहे उपयोगकर्ताओं के लिए, क्लॉड एक चुनाव बैनर दिखाएगा जो उन्हें TurboVote पर जाने के लिए निर्देशित करेगा। TurboVote, Democracy Works द्वारा संचालित एक गैर-दलीय संसाधन प्लेटफॉर्म है, जो मतदाता पंजीकरण, मतदान स्थल, चुनाव तिथियों और मतपत्र विवरण के बारे में विश्वसनीय वास्तविक समय की जानकारी प्रदान करता है। इसी तरह के बैनर की इस वर्ष के अंत में होने वाले ब्राजीली राष्ट्रीय चुनाव के लिए भी योजना है।
एंथ्रोपिक ने बताया कि चुनाव चक्र के आगे बढ़ने के साथ, कंपनी अपनी प्रणालियों का निरीक्षण जारी रखने और अपनी रक्षा उपायों को बेहतर बनाने की योजना बना रही है।डिक्रिप्टहमने जांच के परिणामों के बारे में एंथ्रोपिक से टिप्पणी मांगी है, लेकिन अभी तक कोई प्रतिक्रिया प्राप्त नहीं हुई है।