Anthropic ได้เปิดตัวการปรับปรุงอินเทอร์เฟซผู้ใช้สำหรับตัวเรนเดอร์คำตอบแบบสตรีมมิ่งของ Claude เมื่อวันที่ 24 สิงหาคม โดยมุ่งแก้ไขปัญหาที่ผู้ใช้ทุกคนที่เคยลองขอคำตอบยาวจากแชทบอท AI บนเครื่องรุ่นเก่ารู้ดี: วัฏจักรการกระตุกและหยุดนิ่งที่น่าหงุดหงิดซึ่งเปลี่ยนการสนทนาให้กลายเป็นการนำเสนอแบบสไลด์
การอัปเดตนี้ใช้กับแอปพลิเคชันเว็บและเดสก์ท็อปของ Claude ตามที่ Anthropic ระบุ คำตอบที่ยาวขึ้นตอนนี้ไหลลื่นมากขึ้นประมาณ 4 เท่า การหยุดชะงักบนแล็ปท็อปที่มีประสิทธิภาพต่ำลดลง 9 เท่า และการหยุดทำงานในกรณีรุนแรงที่สุดลดลง 4.5 เท่า ในฮาร์ดแวร์ที่รองรับ เช่น MacBook ความถี่ 120 Hz ตัวเรนเดอร์สามารถรักษาความเร็ว 120 fps ขณะส่งข้อมูลแบบสตรีมมิ่ง
มีการเปลี่ยนแปลงอะไรบางอย่างภายใต้hood
การแก้ไขหลักมีความเรียบง่ายอย่างสง่างาม ก่อนหน้านี้ ทุกโทเค็นที่เข้ามาจากโมเดลของ Claude จะกระตุ้นให้รีเพนต์คอนเทนเนอร์คำตอบทั้งหมด หรืออย่างน้อยก็ส่วนใหญ่ของมัน วิธีใหม่นี้จำกัดการอัปเดตอินเตอร์เฟซผู้ใช้ให้เฉพาะองค์ประกอบที่เปลี่ยนแปลงจริงเท่านั้น ซึ่งส่งผลให้โหลดการประมวลผลต่อโทเค็นลดลงอย่างมาก โดยเฉพาะอย่างยิ่งบนเครื่องที่มีทรัพยากร GPU จำกัดหรือโปรเซสเซอร์รุ่นเก่า
ที่สำคัญ Anthropic ไม่ได้ทำการเปลี่ยนแปลงใดๆ ต่อโมเดลหรือ API ของตนในรุ่นนี้ ความเร็วในการสร้าง คุณภาพของผลลัพธ์ และกระบวนการอ้างอิงพื้นฐานยังคงไม่เปลี่ยนแปลง นี่เป็นเพียงการปรับปรุงระดับการแสดงผล
เหตุผลที่ประสิทธิภาพของอินเทอร์เฟซผู้ใช้มีความสำคัญในการแข่งขันด้านปัญญาประดิษฐ์
ตัวเลขอัตราเฟรมคงที่ 120 fps นั้นบ่งชี้อย่างชัดเจน โดยแอปพลิเคชันบนเว็บส่วนใหญ่ไม่จำเป็นต้องพิจารณาอัตราเฟรมเลย แต่ตัวเรนเดอร์ข้อความแบบสตรีมมิ่งนั้นถือเป็นการแอนิเมชันอย่างแท้จริง ทุกโทเค็นใหม่คือการอัปเดตเฟรมหนึ่งครั้ง เมื่อคุณสร้างโทเค็นนับร้อยสำหรับคำตอบที่ยาวนาน นั่นหมายถึงการอัปเดตเฟรมแบบเรียงลำดับนับร้อยครั้ง และการหยุดชะงักเล็กน้อยใดๆ จะปรากฏขึ้นเป็นการกระตุกหรือค้าง
การบรรลุ 120 fps บนฮาร์ดแวร์ที่รองรับ หมายความว่าเรนเดอร์ของ Anthropic ตอนนี้สามารถจับคู่อัตราการรีเฟรชของหน้าจอ ProMotion ของ Apple ได้โดยไม่ต้องลดเฟรม
วงจรป้อนกลับ และข้อจำกัดของมัน
การตอบรับจากผู้ใช้บนโซเชียลมีเดียส่วนใหญ่เป็นบวก โดยหลายคนระบุว่าการปรับปรุงนี้สังเกตเห็นได้ชัดเจนทันทีระหว่างการสนทนาที่ยาวนาน แต่บางคำตอบได้เน้นถึงความตึงเครียดที่ Anthropic และบริษัทปัญญาประดิษฐ์ทุกแห่งต้องเผชิญ: การปรับแต่งอินเทอร์เฟซไม่ได้แก้ไขโมเดล ผู้ใช้หลายคนชี้ให้เห็นว่าการสตรีมที่ลื่นไหลขึ้นไม่ได้ช่วยอะไรเมื่อ Claude สร้างข้อมูลอ้างอิงขึ้นมาเองหรือส่งข้อมูลที่ไม่ถูกต้องอย่างมั่นใจ
การอัปเดตนี้ยังมีผลกระทบต่อความ ambitions ของ Anthropic ในตลาดองค์กร ผู้ใช้ในองค์กรมักใช้อุปกรณ์มาตรฐานที่ล้าสมัยกว่าที่นักพัฒนาและผู้ใช้รายแรกๆ ใช้ การลดการหยุดชะงักลง 9 เท่าบนแล็ปท็อปที่ช้ากว่าไม่ใช่แค่ตัวเลขที่น่าสนใจสำหรับบทความบนบล็อก แต่เป็นความแตกต่างระหว่างการนำระบบไปใช้งานในองค์กรที่พนักงานจะใช้งานจริง กับระบบหนึ่งที่พวกเขาจะละทิ้งเพื่อหันไปใช้คู่แข่งหลังจากลองใช้งานหนึ่งสัปดาห์ที่เต็มไปด้วยการหยุดทำงานที่น่าหงุดหงิด