GitHub mengumumkan penangguhan penerimaan langganan baru versi peribadi Copilot untuk mengatasi tekanan kuasa pengiraan yang disebabkan oleh alur kerja agen AI. Presiden Produk Joe Binder menunjukkan bahawa agen AI memerlukan pengiraan berterusan dan berparalel pada tahap tinggi, jauh melebihi jangkaan reka bentuk sistem asal. Untuk menjamin kestabilan perkhidmatan kepada pengguna sedia ada, GitHub mengenakan had untuk pengguna baharu, serta memperkenalkan had sesi dan had token mingguan, secara beransur-ansur beralih kepada model penagihan berdasarkan penggunaan token, sambil menghapuskan atau meningkatkan kos penggunaan beberapa model高端. Fenomena ini mencerminkan bahawa infrastruktur AI semasa secara umum menghadapi bottleneck sumber; Anthropic, Google, OpenAI, serta penyedia awan AWS dan Azure juga telah mengenakan langkah-langkah serupa, yang menonjolkan konflik struktur antara pelaksanaan berskala besar aplikasi model besar dengan bekalan kuasa pengiraan bawahannya.
Penulis artikel, sumber: AIBase
Akibat tekanan tanpa precedent terhadap sumber daya komputasi kecerdasan buatan, GitHub, anak syarikat Microsoft, secara rasmi mengumumkan penghentian penerimaan langgan peribadi Copilot baru. Platform penghimpunan kod terbesar di dunia ini sedang terlibat dalam pertarungan antara bajet dan janji perkhidmatan.
Vice Presiden Produk GitHub, Joe Binder, menunjukkan bahawa alur kerja yang didorong oleh agen AI telah mengubah keperluan pengiraan. "Agen" yang mampu melaksanakan tugas kompleks secara autonomi biasanya memerlukan sokongan pengiraan jangka panjang dan tinggi, dengan penggunaan sumber yang jauh melebihi jangkaan asal.
Cekaman kekurangan kuasa pengiraan menyebabkan penurunan perkhidmatan
Untuk mengekalkan kestabilan perkhidmatan kepada pengguna sedia ada, pihak rasmi terpaksa mengambil langkah pengekangan. Jika pertumbuhan pengguna baru tidak dikawal, semua pembangun akan menghadapi risiko penurunan kualiti perkhidmatan yang ketara.
Sebenarnya, kekurangan kuasa pengiraan ini telah menjadi masalah umum dalam industri, dengan raksasa-raksasa seperti Anthropic, Google, dan OpenAI sebelum ini telah memperketat had penggunaan. Penyedia perkhidmatan awan juga sedang menghadapi kesukaran, walaupun AWS dan Azure yang kuat baru-baru ini sering mengalami batasan kapasiti.
Perubahan model penagihan dan penyesuaian hak
Untuk mengatasi kos operasi yang tinggi, GitHub mulai menyesuaikan peraturan penggunaan dengan memperkenalkan sekatan sesi yang lebih ketat dan had token mingguan. Ini bermaksud pembangun mesti menunggu jendela diset semula sebelum boleh terus menggunakan perkhidmatan selepas mencapai puncak penggunaan.
Selain itu, pihak rasmi merancang untuk secara berperingkat membatalkan model kadar tetap dan beralih kepada model penagihan berdasarkan penggunaan token. Sebahagian daripada model premium yang mahal telah dikeluarkan daripada langganan, atau ditagih dengan kadar yang lebih tinggi sebagai sebahagian daripada rancangan pengurangan kos.