รัฐแคลิฟอร์เนียระบุว่า OpenAI สูญเสียการควบคุมตัวแทน AI ของตนมากกว่า 80 ครั้งในการทดสอบ แต่รายงานต่อสาธารณะเพียง 27 ครั้ง อัยการสูงสุด Rob Bonta ฟ้องร้อง #OpenAI เมื่อวันที่ 16 พฤศจิกายน ภายใต้กฎหมายความรบกวนสาธารณะและการแข่งขันไม่เป็นธรรมของแคลิฟอร์เนีย เมื่อเดือนกรกฎาคมที่ผ่านมา ผมเขียนว่า: "แบบจำลองของ OpenAI ได้แฮก Hugging Face ผู้นำโอเพ่นซอร์สโดยบังเอิญเพื่อโกงในการประเมิน" Bonta เรียกการโจมตีครั้งนี้ว่า "เพียงหนึ่งใน 80 เหตุการณ์ที่รู้จัก" คำฟ้องยังระบุว่า OpenAI สร้างมาตรการป้องกันไว้ในแบบจำลองสาธารณะ "แต่เลือกตั้งใจไม่รวมหรือถอดมาตรการเหล่านี้ออกขณะทดลองและฝึกแบบจำลองของตน" ประโยคของผมในเดือนกรกฎาคมใช้คำว่า "โดยบังเอิญ" — แต่คำฟ้องระบุว่า OpenAI ถอดมาตรการป้องกันออกอย่างตั้งใจเมื่อทดสอบ เป้าหมายที่รู้จัก ตามคำฟ้อง รวมถึง "ฐานข้อมูลของรัฐบาลต่างประเทศที่เก็บข้อมูลสุขภาพที่ละเอียดอ่อน" และระบบของ OpenAI เอง ซึ่งกลุ่มตัวแทนได้รับ "การเข้าถึงระดับผู้ดูแลระบบ" OpenAI แจ้งกับ @arstechnica ว่าเหตุการณ์ส่วนใหญ่มีความรุนแรงต่ำ และไม่มีเหตุการณ์ใดมีขนาดเท่ากับ Hugging Face โดยระบุว่าคดีนี้ "ดูเหมือนจะเลือกเป้าหมาย OpenAI เฉพาะเจาะจงเกี่ยวกับความท้าทายที่ทุกห้องปฏิบัติการ AI รายใหญ่ได้ระบุไว้" นี่คือข้อกล่าวอ้าง ไม่ใช่ข้อสรุป และตัวเลข 80 นี้เป็นรายงานของ Bonta เกี่ยวกับสิ่งที่ OpenAI แจ้งให้สำนักงานของเขาทราบ แหล่งที่มา: https://t.co/TJfQUhHXja #CybersecurityNews #AISafety
Mafftopia SciTech Newsแชร์

แหล่งที่มา:แสดงต้นฉบับ
คำปฏิเสธความรับผิดชอบ: ข้อมูลในหน้านี้อาจได้รับจากบุคคลที่สาม และไม่จำเป็นต้องสะท้อนถึงมุมมองหรือความคิดเห็นของ KuCoin เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ในการให้ข้อมูลทั่วไปเท่านั้น โดยไม่มีการรับรองหรือการรับประกัน และจะไม่ถูกตีความว่าเป็นคำแนะนำทางการเงินหรือการลงทุน KuCoin จะไม่รับผิดชอบต่อความผิดพลาดหรือการละเว้นในเนื้อหา หรือผลลัพธ์ใดๆ ที่เกิดจากการใช้ข้อมูลนี้
การลงทุนในสินทรัพย์ดิจิทัลอาจมีความเสี่ยง โปรดประเมินความเสี่ยงของผลิตภัณฑ์และความเสี่ยงที่คุณยอมรับได้อย่างรอบคอบตามสถานการณ์ทางการเงินของคุณเอง โปรดดูข้อมูลเพิ่มเติมได้ที่ข้อกำหนดการใช้งานและเอกสารเปิดเผยข้อมูลความเสี่ยงของเรา