ปัญญาประดิษฐ์แบบเปิดแหล่งรหัสกำลังเดินไปบนเส้นทางที่อันตราย ในช่วงไม่กี่วันที่ผ่านมา ซิลิคอนแวลลีย์กำลังถกเถียงกันอย่างดุเดือดเกี่ยวกับโมเดลที่มีน้ำหนักเปิด Nvidia @nvidia นำจดหมายเปิดเผยเพื่อสนับสนุนว่ารัฐบาลสหรัฐฯ ไม่ควรจำกัดโมเดลที่มีน้ำหนักเปิด หลังผ่านไปหนึ่งสุดสัปดาห์ ผู้ลงนามได้เพิ่มขึ้นเป็น 50 ราย รวมถึง OpenAI @OpenAI, Google และ SpaceX ที่ตามมาลงนาม ขณะนี้ยังเหลือเพียง @AnthropicAI ที่ยังไม่แสดงท่าที เนื่องจากซีอีโอของ Anthropic กล่าวว่า ปัญญาประดิษฐ์แบบเปิดกำลังเดินไปบนเส้นทางที่อันตราย Dario Amodei @DarioAmodei กล่าวว่า เมื่อคุณควบคุมและปรับใช้โมเดลหนึ่ง คุณสามารถติดตามการใช้งานของมันได้อย่างต่อเนื่อง และแม้ในบางช่วงเวลาจะมีการใช้งานในทางที่ผิด คุณก็ยังสามารถแทรกแซงและเปลี่ยนพฤติกรรมที่มันยินดีทำได้ แต่เมื่อโมเดลถูกปล่อยออกไปในรูปแบบที่ไม่สามารถควบคุมได้ ความสามารถนี้จะหายไปอย่างสิ้นเชิง และทั้งหมดที่เหลือก็ขึ้นอยู่กับโชค เขาชี้ว่า การเปิดแหล่งรหัสมีประโยชน์ต่อผู้พัฒนาขนาดเล็กที่ต้องการพัฒนาอย่างรวดเร็วในปกติ แต่ตอนนี้ บริษัทขนาดใหญ่ที่ลงทุนหลายล้านหรือหลายพันล้านดอลลาร์สหรัฐในการฝึกโมเดลขนาดใหญ่ แล้วปล่อยผลิตภัณฑ์ออกมาอย่างไม่มีการควบคุม ย่อมแตกต่างอย่างสิ้นเชิง