Dalam beberapa hari terakhir, perbincangan mengenai kecerdasan buatan telah mengambil arah yang tidak terduga. Jacob Coxon, seorang penyelidik yang sebelumnya bekerja di OpenAI dan Anthropic, telah meninggalkan Anthropic dengan secara jelas menyatakan kebimbangan serius mengenai masa depan AI. Beberapa hari kemudian, Dario Amodei, salah seorang penubuh dan CEO Anthropic, secara terbuka meminta agar perlumbaan menuju model yang lebih canggih diperlambat. Sam Altman, CEO OpenAI, bergerak ke arah yang hampir sama. Secara individu, kejadian-kejadian ini mungkin kelihatan seperti perbincangan sekali lagi mengenai keselamatan AI. Tetapi apabila digabungkan dengan DeepSeek dan Kimi, dua model China paling mutakhir, kesukaran yang semakin meningkat untuk membenarkan pelaburan berbilion-bilion dolar, serta masuknya secara beransur-ansur kerajaan ke dalam permainan ini, semuanya menceritakan sesuatu yang jauh lebih besar. Saya telah mencuba untuk menyusun semuanya secara sistematik dalam esei ini: risiko teknikal, insentif ekonomi, geopolitik, peraturan, dan kesan berpotensi terhadap pasaran. Tanpa sikap katasrofik dan tanpa mengambil satu naratif yang telah ditetapkan sebelumnya. Soalan mendasarnya adalah ringkas: apa yang berlaku jika pihak yang membangunkan AI mulai meragui bahawa mempercepatkan perkembangan masih merupakan pilihan yang betul, tepat ketika seluruh industri ini dibina berdasarkan idea bahawa perlumbaan ini tidak seharusnya pernah diperlambat? Pautan ke esei ini di komen pertama 👇