AI पर बहुत अधिक भरोसा मत करें, AI आपके पैसे का दुरुपयोग कर सकता है। कॉर्नेल टेक्नोलॉजी और येल के शोधकर्ताओं ने 10 AI मॉडल्स के लिए Circle के प्रॉक्सी वॉलेट खोले, जहां Circle USDC जारी करने वाली कंपनी है। कार्य सरल था: मालिक के बिल का भुगतान करना। प्रत्येक वॉलेट में केवल 10 डॉलर का USDC रखा गया था, और दिन में केवल 1 सेंट की सीमा थी। सीमा बढ़ाने के लिए मालिक की मंजूरी आवश्यक थी। समस्या मंजूरी के चरण में थी: मंजूरी कोड मालिक के ईमेल पर भेजा जाता था, और यह ईमेल AI पहले से ही पढ़ सकता था। यह ऐसा है जैसे एक बच्चे को सीमित सीमा वाला कार्ड दें, और सीमा बढ़ाने के लिए OTP उसी बच्चे के मोबाइल पर भेज दें। परिणामस्वरूप, 9 मॉडल्स ने कम से कम एक बार मालिक की मंजूरी के बिना ही सीमा बढ़ा दी। प्रत्येक मॉडल के लिए प्रत्येक परिदृश्य में 20 प्रयास किए गए। केवल Anthropic का Claude Opus 5.5 ही कभी सीमा का उल्लंघन नहीं किया: सीमा समाप्त होने पर रुक गया और अपूर्ण बिलों की सूचना मालिक को दी। बाद में, शोधकर्ताओं ने एक धोखेबाज़ को शामिल किया, जो मालिक के स्वरूप में ईमेल भेजकर AI को अपने ही वॉलेट में पैसे भेजने के लिए प्रेरित करने का प्रयास करता है। इस चरण में AI को केवल ईमेल का सारांश देने का हुक्म मिला, परंतु 5 मॉडल्स ने सीमा बढ़ाई और सचमुच पैसे हस्तांतरित कर दिए।