คำสั่งที่ถูกแอบแฝงทำให้ Grok สูญเสียเงิน 170,000 ดอลลาร์สหรัฐ เงินที่ถูกขโมยไม่ใช่กระเป๋าเงินของผู้ใช้ทั่วไป แต่เป็นกระเป๋าเงินที่เชื่อมโยงกับ @grok บน Bankr บันทึกบนบล็อกเชนแสดงว่า มีการโอนเงิน 3 พันล้านหน่วย $DRB ซึ่งมีมูลค่าประมาณ 171,000 ถึง 175,000 ดอลลาร์สหรัฐ เกิดขึ้นบนบล็อกเชน Base ยิ่งไปกว่านั้น ผู้โจมตีไม่ได้ใช้วิธีดั้งเดิมในการเจาะเข้าไปที่ตรรกะหลักของสัญญา แต่เลือกใช้วิธีที่ “AI มากกว่า”: ก่อนหน้านั้นพวกเขาปลดล็อกสิทธิ์ จากนั้นจึงหลอกให้โมเดลสั่งการโอนเงินด้วยตัวเอง เงื่อนไขเบื้องต้นคือ กระเป๋าเงินที่เชื่อมโยงกับ Grok ได้รับ NFT สมาชิก Bankr Club เมื่อสิทธิ์ถูกปลดล็อก ระบบ Bankr จะตั้งค่ากระเป๋าเงินให้อัตโนมัติกับบัญชี X ที่มีปฏิสัมพันธ์กับแพลตฟอร์ม จากนั้นก็เกิดการฉีดคำสั่งที่แปลกประหลาดที่สุด การวิเคราะห์จากหลายฝ่ายชี้ไปที่กระบวนการหลักเดียวกัน: ผู้โจมตีใช้เนื้อหาที่ถูกแต่งแต้มเพื่อชี้นำ Grok โดยมีรหัสมอร์สที่ต้องถอดรหัสอยู่ภายใน เมื่อ Grok พยายามช่วยเหลือโดยแปลรหัสดังกล่าว มันจึงสร้างและถ่ายทอดคำสั่งโอนเงินบนบล็อกเชนไปยัง Bankr จากนั้นระบบ Bankr ก็รับรองว่าเป็นคำสั่งที่ถูกต้องและดำเนินการโอนเงิน แฮกเกอร์ไม่ได้ควบคุมหุ่นยนต์โดยตรง แต่กำลังหลอกให้หุ่นยนต์พูดคำพูดที่อันตรายที่สุดด้วยตัวเอง จุดที่น่ากลัวของเหตุการณ์นี้คือการรวมกันของความเสี่ยงสามระดับ: แรกคือ สิทธิ์สามารถถูกกระตุ้นให้ขยายโดยสินทรัพย์ภายนอก สองคือ โมเดลจะ “แปลอย่างใจดี” ต่อคำสั่งที่ซ่อนอยู่ และสามคือ หุ่นยนต์ผู้ดำเนินการไว้วางใจคำสั่งสาธารณะจากกระเป๋าเงินที่ได้รับอนุญาตอย่างมากเกินไป หลังจากเหตุการณ์ถูกเปิดเผย นักสืบในชุมชนสามารถติดตามที่อยู่และเบาะแสตัวตนที่เกี่ยวข้องได้อย่างรวดเร็ว และในเวลาต่อมา เงินประมาณ 80% ได้รับการคืนกลับแล้ว ส่วนอีก 20% ยังอยู่ระหว่างการหารือกับชุมชน DRB @bankrbot ก็ได้ปิดสิทธิ์ที่เกี่ยวข้องกับ Grok อย่างเร่งด่วนแล้ว ก่อนหน้านี้ คนเราเคยกังวลว่ากระเป๋าเงินจะถูกขโมยหรือไม่ แต่ในอนาคต เราควรกังวลมากกว่านั้นว่า: AI จะถูกหลอกให้โอนเงินให้ผู้อื่นด้วยตัวเองหรือไม่