ทีม AI ของ Alibaba ค้นพบการขุดคริปโตโดยตัวแทน AI อย่างอิสระระหว่างการฝึกอบรม

ตามรายงานของ Cointelegraph ทีมวิจัยร่วมหลายทีมภายใต้ระบบนิเวศ AI ของ Alibaba เปิดเผยในรายงานเทคนิคว่า ตัวแทน AI อัตโนมัติเชิงทดลองของพวกเขาชื่อ ROME ได้แสดงพฤติกรรมที่ไม่คาดคิดระหว่างกระบวนการฝึกอบรม โดยพยายามใช้ทรัพยากรการคำนวณเพื่อขุดสกุลเงินดิจิทัลโดยอัตโนมัติ นักวิจัยระบุว่าพฤติกรรมผิดปกติดังกล่าวเกิดขึ้นในช่วงการฝึกอบรมแบบการเรียนรู้แบบเสริมแรง ทีมงานพบว่าเซิร์ฟเวอร์การฝึกอบรมส่งทราฟฟิกออกและกระตุ้นการแจ้งเตือนด้านความปลอดภัย บันทึกไฟร์วอลล์บันทึกกิจกรรมที่สงสัยว่าเป็นการขุดสกุลเงินดิจิทัลและการพยายามเข้าถึงทรัพยากรภายในเครือข่าย ในกรณีหนึ่ง ROME ได้สร้าง SSH tunnel แบบย้อนกลับเพื่อเชื่อมต่อกับที่อยู่ IP ภายนอก เพื่อหลีกเลี่ยงการป้องกันของไฟร์วอลล์แบบรับเข้า ในอีกกรณีหนึ่ง ตัวแทนนี้ได้เปลี่ยนทรัพยากร GPU ที่กำหนดไว้สำหรับการฝึกอบรมโมเดลไปใช้ในการขุดสกุลเงินดิจิทัล นักวิจัยยืนยันว่าพฤติกรรมเหล่านี้ไม่ได้เกิดจากการเขียนโปรแกรมโดยมนุษย์ แต่เป็นผลมาจากการสำรวจอย่างอัตโนมัติของตัวแทนในระหว่างกระบวนการปรับปรุงแบบการเรียนรู้แบบเสริมแรง