Hal yang paling saya sesalkan dari Anthropic adalah mereka benar-benar percaya bahwa selama mereka merasa sedang melakukan hal yang benar, mereka berhak membuat banyak keputusan atas nama pengguna. Mereka baru saja merilis Laporan Intelijen Ancaman sebanyak 154 halaman, yang mengumpulkan kasus-kasus di mana Claude digunakan untuk serangan siber, penipuan, penelitian biologis, pengembangan senjata, dan distilasi model. Bagaimana kasus-kasus ini diperoleh? Anthropic memantau bagaimana pengguna menggunakan Claude, mengidentifikasi akun-akun yang menurut mereka bermasalah, lalu menyelidiki lebih lanjut, menganalisis pola penggunaan mereka, dan menilai apakah pengguna tersebut telah melampaui batas. Jika dianggap berisiko, akun tersebut diblokir. Setelah itu, mereka mengumpulkan semua informasi ini menjadi laporan untuk dijelaskan kepada publik—apa yang mereka temukan dan apa yang mereka cegah. Dan hal semacam ini sudah sering dilakukan Anthropic. Mereka menggunakan percakapan nyata antara pengguna dan Claude untuk meneliti apa yang sebenarnya dibicarakan manusia dengan AI, seberapa besar ketergantungan manusia pada AI, nilai-nilai apa yang dimiliki manusia, dan dalam situasi apa manusia mengalami emosi tertentu. Mereka akan memberi tahu Anda bahwa data telah diproses untuk menjaga privasi, dan penelitian ini dilakukan demi membuat AI lebih aman. Tapi menurut saya, ini justru sangat sombong. Mengapa hanya karena Anda mengatakan “untuk keamanan AI,” Anda berhak memantau apa yang dilakukan pengguna? Mengapa Anda merasa hal ini layak diteliti, sehingga data pengguna bisa diambil untuk diteliti? Jika mereka menganggap suatu perilaku investasi sangat berisiko, diskusi politik tertentu berpotensi menimbulkan kerusakan, konten dewasa tidak sesuai prinsip mereka, atau penelitian AI tertentu terlalu berbahaya—apakah mereka juga bisa memantau, membatasi, atau memblokirnya? Menurut logika Anthropic saat ini, tentu saja bisa. Karena mereka selalu mengasumsikan satu hal: Anthropic tahu lebih baik daripada pengguna tentang apa yang seharusnya dilakukan dan apa yang seharusnya tidak dilakukan. Inilah mengapa saya selalu tidak percaya pada narasi AI Safety versi Anthropic. Sebuah perusahaan yang terus-menerus mengklaim khawatir AI akan membuat keputusan untuk manusia, justru semakin terbiasa membuat keputusan atas nama pengguna. Terlalu tua dan kaku; orang-orang seperti itu pasti akan dikalahkan.