AI güvenliği tartışmaları artarken, yurt dışındaki medya, Jeffrey Hinton, Li Feifei ve Andrew Ng'nin son zamanlarda Las Vegas'ta düzenlenen Ai4 konferansında açık modeller konusunda yoğun bir şekilde konuştuğunu bildirdi. Üçünün de tutumu tamamen aynı değilse de, tümü az sayıdaki büyük teknoloji şirketlerinin AI gelişim ritmini yönlendirmesine karşılar.
Azınlık şirketlerinin girişleri elinde tutmasını karşılar
Makale, üç araştırmacının ortak endişesi olarak, AI'nın az sayıda şirket tarafından kontrol edilmesi durumunda yenilik alanının daralabileceğini belirtiyor. Wu Enda, AI alanında bir “kapı bekçisi” oluşmasını istemediğini açıkça ifade ediyor, çünkü bu, geliştiricilerin, şirketlerin ve halkın AI'ya erişim biçimini sınırlayacaktır.
O, büyük şirketlerin doğal olarak kendi avantajlarını koruyacağını ve endüstri kurallarının oluşumunu etkileyebileceğini düşünüyor. Sonuç olarak, yalnızca en fazla sermayeye ve en güçlü hesaplama gücüne sahip şirketlerin en ileri sistemleri sürekli olarak geliştirebileceği olabilir. Wu Enda'nın önerdiği yön, model sağlayıcıların sayısı üzerindeki çoğalmayı korumak, model ve şirketlerin pazarda rekabet etmesini sağlamak, az sayıda platformun hakimiyet kurmasını önlemektir.
Hinton, açık kaynak kodu açık ağırlıklardan ayırt ediyor.
Ancak Hinton, "açık kaynak yazılım" ile "açık ağırlıklı modeller"i aynı şey olarak görmüyor. Ona göre, açık kaynak yazılımda kod public hale getirilir, dışarıdakiler güvenlik açıklarını kontrol edebilir ve düzeltmeler önerebilir; açık ağırlık ise eğitilmiş büyük modelin parametrelerini doğrudan dışarıya verir ve bu, ikincil geliştirme engelini önemli ölçüde düşürür.
O, ağırlıkların açılmasını önce karşılamıştı, çünkü bu, bazı kişilerin temel modelleri düşük maliyetle ağ saldırıları gibi amaçlar için dönüştürmesine olanak tanıyordu. Ancak aynı zamanda, bu tartışmanın gerçek dünyada artık çok zor geri döndürülebilir olduğunu kabul etti. Ağırlıkların açık olduğu modellerin sürekli ortaya çıkmasıyla, eğitim maliyetleri oluşturduğu engel açıkça zayıflamıştır.
Bununla birlikte, Hinton, AI geliştirilmesinin durdurulması gerektiğini savunmamaktadır. Makaleye göre, AI'nın verimliliği artıracağını ve eğitim ile sağlık gibi alanları iyileştireceğini hâlâ düşünmektedir; ancak potansiyel risklerin göz ardı edilemeyeceği vurgulanmaktadır. Ayrıca, AI riskleri konusunda endişe duyan tüm kişileri “panik yaratanlar” olarak sınıflandırmak adil olmadığını belirtmiştir.
Li Feifei, katmanlı açıklığı savunuyor.
Wu Enda'nın açık rekabeti vurgulaması ve Hinton'un güvenlik risklerini öne çıkarmasının aksine, Li Feifei tartışmaları "tamamen açık" veya "tamamen kapalı" olmak üzere iki seçeneğe indirgemeyi reddediyor. O, karmaşık yazılım ve bilimsel sistemlerin zaten farklı seviyelerde olduğunu ve farklı aşamalarda farklı düzeylerde açıklık uygulanabileceğini düşünüyor.
O, nükleer fizik örneğini vererek, akademik makalelerin açıkça yayınlanabileceğini, uranyum malzemesinin ise sıkı bir şekilde denetim altında olduğunu, deneysel aşamanın ise bunların arasında yer aldığını belirtti. Buna dayanarak, AI'nın da benzer bir yaklaşım benimseyebileceğini düşündü: bilimsel keşifler, eğitim ve uluslararası iş birliği düzeylerinde bir ölçüde açık kalınırken, şirketlerin kapalı kaynak sistemlerini ve ticari modellerini korumasına izin verilsin.
Makale, Li Feifei'nin İnsan Genom Projesi'ni örnek göstererek, kamu kurumları ile özel sektörün birlikte oluşturduğu temel bilgi platformlarının hem bilimsel ilerlemeyi hem de şirketlerin kâr elde etmesini hem de toplumsal uygulamaları destekleyebileceğini belirtti. O, AI altyapısının de bu yönde ilerlemesi gerektiğini, yerine göre ikili bir tartışmaya girmesi gerektiğini düşündü.
Üçü de düzenlemeye ihtiyaç olduğunu kabul etti.
Üçü de açık modellerin sınırları konusunda farklı görüşler savunsa da, düzenlemeye ilişkin tutumları benzer. Makaleye göre, hepsi yapay zekânın toplum için daha faydalı bir yönde ilerlemesi için bir ölçüde kurallara ihtiyaç duyduğunu düşünüyor.
Hinton, AI'nin nasıl geliştirileceğinin tamamen girişimcilerin kendi kararına bırakılamayacağını belirtti. Açık modeller etrafındaki tartışmalar, artık sadece teknik bir yol ayrımı değil, aynı zamanda endüstri güç dağılımı, uluslararası rekabet ve AI güvenliği yönetimi yönüyle de ilgilidir.