Yapay zeka, sadece sorulara cevap vermekten daha fazlasını yapmada daha iyi hale geliyor. Yapay zeka sistemleri, artık neredeyse tamamen insanlar tarafından yürütülen kodlama, araştırma, analiz ve diğer görevlerde yardımcı oluyor. Bu da yeni bir soruyu ortaya çıkarıyor: Yapay zeka, bir sonraki nesil yapay zekayı oluştururken daha büyük bir rol oynamaya başladığında ne olacak?
OpenAI, bu soruyu yanıtlamaya yardımcı olmak için uluslararası standartlar çağrısında bulunuyor. 21 Eylül'de “Sınır AI’nın Sonraki Aşaması İçin Standartlar Oluşturma” başlıklı bir gönderide, OpenAI, öncü AI için ortak teknik standartlar oluşturmak üzere ABD öncülüğünde uluslararası bir çaba önerdi. Şirket, bu standartların ülkelerin AI yeteneklerini ölçmesine, riskleri değerlendirmesine, güvenlik önlemlerini test etmesine ve ciddi olayları daha tutarlı yöntemlerle raporlamasına yardımcı olabileceğini söyledi.
Ana Noktalar
- OpenAI, öncü Yapay Zekayı değerlendirmek için uluslararası standartlar istiyor.
- Öneri, yetenekleri, riskleri, koruma önlemlerini ve olay raporlamasını kapsar.
- OpenAI, tamamen özyinelemeli kendini geliştirme today gerçekleşmiyor diyor.
- Şirket, yapay zekâ daha yetenekli hale gelmeye başladıkça insan kontrolünün merkezde kalmasını istiyor.
- Mevcut AI güvenlik kuruluşları ortak teknik standartlar geliştirmeye yardımcı olabilir.
Openai, Öncü Yapay Zeka İçin Ortak Bir Çerçeve İstiyor
Temel fikir oldukça basittir. Her ülkenin, gelişmiş yapay zekanın yarattığı tehlikeleri değerlendirmek için tamamen farklı bir yöntem geliştirmesi gerekmez. OpenAI'ye göre, teknik yaklaşımların standartlaştırılması, ülkeleri, araştırmacıları ve yapay zeka topluluğunu, giderek daha karmaşık hale gelen yapay zekalarını değerlendirmek için etkili bir yol sunar. Bu, yapay zeka ile ilgili olayların sınırlar ötesinde meydana geldiğinde daha da önem kazanır.
Şirket, tek bir küresel yapay zeka yasası önermiyor. Bunun yerine, ülkelerin kendi düzenleyici sistemleri içinde nasıl kullanılabilecekleri konusunda hükümetlerin karar verebileceği uyumlu standartlar geliştirmesini istiyor. Bu fark önemlidir, çünkü önerilen standartlar hemen her yapay zeka teknolojisi için lisanslama veya sertifikasyon gereklilikleri haline gelmiyor. Bunun yerine, hükümetler standartların kendi yetki alanları içinde nasıl uygulanacağını belirleme yetkisini koruyor.
Özyenileme, konuşmanın bir parçasıdır
OpenAI’nin önerisinin daha ilginç yönlerinden biri, özyinelemeli kendini geliştirme (RSI) tartışmasıdır. Bu kavram, yapay zeka sistemlerinin giderek daha yetenekli yapay zeka sistemleri geliştirmeye yardımcı olabileceği bir geleceğe işaret eder. Basitçe ifade edersek, yapay zeka, yapay zekanın kendisini geliştirmeye olan sürecin bir parçası haline gelebilir.
Bu, AI araştırmalarını potansiyel olarak hızlandırabilir. Ancak aynı zamanda zor bir güvenlik sorunu da yaratır: AI sistemleri gelecek modellerin geliştirilmesinde yoğun şekilde dahil olursa, döngüde ne kadar insan denetimi kalmalıdır?
OpenAI, tamamen özyönlü özyinelemeli kendini geliştirme today gerçekleşmiyor diyor. Aynı zamanda, insan kontrolü korunurken güvenli bir şekilde yapılamıyorsa bu yönde ilerlenmemesi gerektiğini savunuyor. Bu da yapay zeka sistemleri giderek daha karmaşık araştırma ve geliştirme görevlerini yerine getirebilecek hale geldikçe değerlendirme ve güvenlik testlerinin daha da önemli hale gelmesini sağlıyor.
AI Güvenlik Standartları Daha Önemli Hale Gelebilir
OpenAI, bu çabanın potansiyel yapı taşları olarak dünya çapında mevcut AI güvenlik kuruluşlarını ve ağlarını da işaret ediyor. Şirket, özellikle ABD, İngiltere, Kanada, Fransa, Almanya, Japonya, Güney Kore, Singapur, Hindistan, Kenya ve Avustralya'daki AI güvenlik enstitülerini ve ilgili kuruluşları örneklendiriyor.
Her ülkenin kendi tamamen ayrı teknik yaklaşımını geliştirmesinin yerine, OpenAI bu grupların birbirini tamamlayabilecek standartlar doğrultusunda çalışmasını istiyor. Öneri, AI geliştiricilerinden, araştırmacılarından, akademisyenlerden ve bağımsız teknik uzmanlardan katılımı da talep ediyor. OpenAI, standartların belirli bir şirketin veya ülkenin çıkarları yerine teknik ölçümler etrafında tasarlanmasını söylüyor.
Neden Önemli
Zamanlaması dikkat çekici. Yapay zeka şirketleri, giderek daha az doğrudan insan girişiyle çok adımlı görevleri yerine getirebilen sistemler geliştiriyor, enquanto hükümetler hâlâ teknolojiyi düzenlemek için yollar arıyor.
Reuters, OpenAI'nin ileri yapay zeka için uluslararası teknik standartlar geliştirmede ABD'nin öncü rol almasını istediğini bildirdi. Daha büyük zorluk, bu standartların tam olarak neyi ölçmesi gerektiğini ve nasıl uygulanacağını belirlemek için ülkelerin ve şirketlerin anlaşmasını sağlamaktır.
Şu anda OpenAI’nin önerisi, öncü yapay zekânın daha da yetenekli hale gelmeden önce ortak bir teknik temel oluşturmak üzerine odaklanıyor. Yapay zekânın, kendi geliştirilmesiyle ilgili işlerin daha fazlasını yapmaya başlamasıyla, yetenekleri, riskleri ve güvenlik önlemlerini ölçmek için ortak bir yöntem, giderek daha önemli bir tartışma unsuru haline gelebilir.
Bu makale orijinal olarak OpenAI, Yapay Zekanın Daha Özgün Hale Gelmesiyle Küresel Yapay Zeka Güvenlik Standartları İçin Çaba Gösteriyor başlığıyla Crypto Breaking News'te yayımlanmıştı – kripto haberleri, bitcoin haberleri ve blok zinciri güncellemeleri için güvenilir kaynağınız.