Açık kaynak AI tehlikeli bir yola girmektedir; bu hafta sonu Silicon Valley, açık ağırlık modelleri üzerine büyük bir tartışmaya girmiştir. Nvidia @nvidia, Washington'ın açık ağırlık modellerini kısıtlamaması gerektiğini savunan bir açık mektup çıkarmıştır. Bir hafta sonu geçtikten sonra imza sayısı 50'ye ulaşmıştır; OpenAI @OpenAI, Google ve SpaceX sırayla katılmıştır. Şu anda @AnthropicAI'nin tepki vermemesinin nedeni, Anthropic CEO'sunun açık kaynak AI'nın tehlikeli bir yola girdiğini söylemesidir. Dario Amodei @DarioAmodei, bir modeli kontrol altında tutup dağıttığınızda, nasıl kullanıldığını sürekli izleyebilir ve bir an bile kötüye kullanılırsa, modelin yapmasını istediğiniz şeyleri değiştirebilirsiniz; ancak model kontrolsüz bir şekilde serbest bırakılırsa, bu yetenek tamamen kaybolur ve geriye sadece şans kalır. Açık kaynak kodun, küçük geliştiricilerin hızlı yineleme yapması için faydalı olduğunu belirtse de, şu anda birkaç milyon dolar hatta yüz milyonlarca dolar harcayarak büyük modelleri eğiten dev şirketlerin, ürünlerini kontrolsüz bir şekilde açıkça yayınlamaları farklı bir durumdur.