Yang paling saya benci tentang Anthropic ialah ia benar-benar percaya bahawa selama ia merasa sedang melakukan perkara yang betul, ia boleh membuat banyak keputusan untuk pengguna. Ia baru sahaja mengeluarkan Laporan Intelejen Ancaman sebanyak 154 muka surat, yang menghimpunkan kes-kes di mana Claude digunakan untuk serangan siber, penipuan, penyelidikan biologi, pembangunan senjata, dan distilasi model. Bagaimana kes-kes ini diperolehi? Anthropic memantau bagaimana pengguna menggunakan Claude, mengenal pasti akaun yang ia anggap bermasalah, menyelidik lebih lanjut, menganalisis cara pengguna tersebut menggunakan platform ini, kemudian menilai sama ada pengguna tersebut melanggar garis. Jika dianggap berisiko, akaun akan diblokir. Selepas itu, perkara-perkara ini disusun menjadi laporan untuk dijelaskan kepada awam—apa yang ditemui dan apa yang dihalang. Dan Anthropic telah melakukan perkara ini berulang kali. Ia menggunakan perbualan sebenar antara pengguna dan Claude untuk menyelidik apa yang sebenarnya dibincangkan manusia dengan AI, bagaimana manusia bergantung kepada AI, apakah nilai-nilai manusia, dan dalam keadaan apa manusia mengalami emosi tertentu. Ia akan memberitahu anda bahawa data telah diproses untuk melindungi privasi, dan penyelidikan ini dilakukan semata-mata untuk menjadikan AI lebih selamat. Tetapi saya rasa ini justru sangat sombong. Mengapa sekali anda berkata “untuk keselamatan AI”, anda boleh memantau apa yang pengguna lakukan? Mengapa anda merasa perkara ini layak diselidiki, sehingga data pengguna boleh diambil untuk tujuan penyelidikan? Jika ia menganggap sesuatu tindakan pelaburan sangat berisiko, perbincangan politik tertentu mungkin menyebabkan kecederaan, kandungan dewasa tidak sejalan dengan prinsipnya, atau penyelidikan AI tertentu terlalu berbahaya—apakah ia juga boleh memantau, membatasi, dan memblokir? Menurut logik Anthropic sekarang, tentu saja ia boleh. Kerana ia secara tetap mengandaikan satu perkara: Anthropic tahu lebih baik daripada pengguna tentang perkara apa yang sepatutnya dilakukan dan apa yang tidak sepatutnya dilakukan. Inilah sebabnya saya sentiasa tidak percaya naratif Keselamatan AI milik Anthropic. Sebuah syarikat yang sentiasa mengatakan ia bimbang AI akan membuat keputusan untuk manusia, tetapi sendiri semakin biasa membuat keputusan untuk pengguna. Terlalu tua dan kaku; orang tua dan kaku pasti akan dikalahkan.