สื่อต่างประเทศแสดงความเห็นว่า การอภิปรายเกี่ยวกับตัวแทนการเขียนโปรแกรมด้วยปัญญาประดิษฐ์กำลังเปลี่ยนจากคำถามว่า “สามารถเพิ่มประสิทธิภาพได้หรือไม่” เป็นคำถามว่า “จะทำให้คุณภาพของงานซอฟต์แวร์ลดลงหรือไม่” แฮกเกอร์จอร์จ ฮอตซ์ ผู้เคยเจาะระบบ jailbreak ของ iPhone รุ่นแรกและ PlayStation 3 เมื่อไม่นานมานี้ได้โพสต์บทความระบุว่า การนำเครื่องมือเหล่านี้มาใช้อย่างแพร่หลายในอุตสาหกรรมซอฟต์แวร์ อาจเป็นการตัดสินใจผิดพลาดที่มีค่าใช้จ่ายสูงมากสำหรับอุตสาหกรรมนี้
ให้การตัดสินเชิงลบหลังจากทดสอบจริงเป็นเวลาหกเดือน
ฮ็อตซ์ ระบุว่า เขาไม่ได้ยืนอยู่นอกสนามเพื่อวิจารณ์ ในหกเดือนที่ผ่านมา เขาได้ใช้ตัวแทน AI ในโครงการจริงอย่างต่อเนื่อง รวมถึงการพัฒนาบางส่วนของเฟรมเวิร์กการเรียนรู้เชิงลึกแบบเปิดแหล่งที่มา tinygrad และการถอดรหัสแบบเต็มรูปแบบของเฟิร์มแวร์ชิป USB-PCIe
เขาสรุปว่า เครื่องมือประเภทนี้มักจะให้ความคืบหน้าอย่างรวดเร็วในช่วงต้น แต่ยิ่งไปไกลเท่าใด ยิ่งยากที่จะสรุปผล ดูเหมือนว่าผลลัพธ์ของโมเดลจะดูดีขึ้นเรื่อยๆ แต่ปัญหาที่แท้จริงกลับยากต่อการตรวจจับอย่างทันเวลา ตามที่เขาพูด นักพัฒนาสุดท้ายยังคงต้องแก้ไขผลลัพธ์ด้วยมือบ่อยครั้ง
ความไม่เห็นด้วยไม่ได้อยู่ที่ประสิทธิภาพ แต่อยู่ที่ใครจะรับผิดชอบ
บทความชี้ว่า ความเสี่ยงที่แท้จริงไม่ได้อยู่ที่การส่งออกแต่ละครั้งจะผิดพลาดหรือไม่ แต่อยู่ที่ว่าการควบคุมคุณภาพในระดับองค์กรจะล้มเหลวหรือไม่ การตัดสินใจหลักของ Hotz คือ วิศวกรที่มีความสามารถสูงมักยังสามารถอ่านโค้ดที่สร้างขึ้น ค้นพบช่องโหว่ และตัดสินใจได้ว่าเมื่อใดควรเชื่อถือเครื่องมือ; แต่วิศวกรที่มีความสามารถต่ำกว่าอาจไม่มีความสามารถในการตรวจสอบเช่นเดียวกัน
หากผู้หลังใช้ตัวแทนเพื่อขยายผลผลิตให้สูงกว่าอดีตหลายเท่า ประสิทธิภาพโดยรวมของทีมอาจเพิ่มขึ้น แต่คุณภาพเฉลี่ยของโค้ดจะลดลงเร็วขึ้น และการลดลงนี้จะถูกปิดบังด้วยปริมาณการส่งโค้ดที่สูงขึ้น ฮอตซ์เตือนว่า อุตสาหกรรมอาจเผชิญกับโค้ดจำนวนมากที่ “ดูเหมือนใช้งานได้ แต่จริงๆ แล้วเต็มไปด้วยปัญหา”
ขัดแย้งอย่างชัดเจนกับ Karpathy
ก่อนหน้าการเผยแพร่บทความนี้ไม่นาน นักวิจัย AI Andrej Karpathy เพิ่งเข้าร่วมทีมการฝึกโมเดลเบื้องต้นของ Anthropic รายงานระบุว่าทัศนคติของ Karpathy ต่อตัวแทน AI เปลี่ยนไปในปีนี้ โดยเชื่อว่ารุ่นใหม่ได้เปลี่ยนวิธีการพัฒนาซอฟต์แวร์อย่างชัดเจน
Dario Amodei ซีอีโอของ Anthropic ก็เคยระบุว่า วิศวกรบางส่วนของบริษัทได้ลดการเขียนโค้ดด้วยตัวเอง และหันไปใช้โมเดลในการสร้างโค้ด แล้วให้คนตรวจสอบทีหลัง ในทางกลับกัน Hotz ให้ประสบการณ์ที่ตรงข้าม: เขาเคยลองกระบวนการที่คล้ายกัน แต่สุดท้ายแทบทุกครั้งต้องแก้ไขด้วยตัวเอง
พร้อมกับการเติบโตอย่างรวดเร็วของ "vibe coding" ในปีที่ผ่านมา บริษัท AI รายใหญ่ต่างให้ความสำคัญกับการเขียนโปรแกรมแบบตัวแทน โดยไมโครซอฟท์ได้ผลักดัน GitHub Copilot ไปสู่ระบบตัวแทนที่สมบูรณ์ยิ่งขึ้น และอธิบายการเปลี่ยนแปลงนี้ว่าเป็นการเปลี่ยนแปลงระดับแพลตฟอร์ม
ฮอตซ์เชื่อว่า ปัญหาไม่ได้อยู่ที่โปรแกรมเมอร์กังวลว่าจะถูกแทนที่ แต่อยู่ที่ว่าบริษัทจะเร่งนำเครื่องมือเหล่านี้ไปใช้อย่างกว้างขวางภายใต้แรงกดดันจากการแข่งขันหรือไม่ เขาชี้ให้เห็นว่า หากบริษัทขนาดใหญ่ผลักดันเครื่องมือการเขียนโปรแกรมด้วย AI อย่างเป็นระบบภายในทีมวิศวกรรมทั้งหมด คุณภาพซอฟต์แวร์ในอีกสองปีข้างหน้า未必จะดีขึ้น