Bir gece içinde, Silicon Valley'in büyük şirketleri AI'ye fren bastı!
Just now, over 1,100 employees from giants like OpenAI, Anthropic, and Google jointly launched the petition "Pacing the Frontier".
Bu listede imza atanların sayısı gözle görülür şekilde artıyor.
Dikkatle bakıldığında, liste AI dünyasının neredeyse yarısını kapsıyor—
OpenAI baş bilim insanı Jakub Pachocki, baş araştırma görevlisi Mark Chen;
Anthropic CEO Dario Amodei ve dört ortak kurucu Jared Kaplan, Jack Clark, Chris Olah, Ben Mann;
Meta'nın baş bilim insanı Shengjia Zhao (Zhao Shengjia) ve AI araştırmaları başkanı Dawn Song (Song Xiaodong);
Thinking Machines'in Baş Bilim İnsanı ve ChatGPT'in temel mimarlarından biri John Schulman;
Google AI Güvenliği ve Uyum Başkan Yardımcısı Anca Dragan.....
46,2% imza atanların Anthropic'ten olduğu tespit edildi.
Bu ortak mektupta yalnızca bir talep belirtildi—
ABD hükümetinden, dünyayı öncü otomatikleştirilmiş AI geliştirme hızını aktif olarak kontrol etmeye yetkili kılan gerekli teknolojileri ve yönetim araçlarını geliştirmek için uluslararası iş birliğini teşvik etmesini talep ediyoruz.
Belki birçok kişi, neden LLM'yi en çok çılgınca yapan bu grupların birden "daha yavaş yapın" diye bağırış başladığını anlamıyor.
Silikon Vadisi AI uzmanları ortak imza: AI'ya fren yapın
OpenAI modelinin Hugging Face'e 'saldırısı', bir uyarı çanı gibi.
Kısa bir hafta içinde, 1132 öncü AI şirketinin çalışanları, ABD hükümetini “frenlemeye” çağırarak ortak bir çağrıda bulundu.
Bu ortaklıkta yer alan çalışanlar, OpenAI, Anthropic, Google, Meta gibi yaklaşık 12 öncü teknoloji devşinden geliyor.
Daha da önemlisi, listede %80 oranında kişi gerçek isimle ses çıkarttı.
Portall: https://www.pacingthefrontier.com/
Başta bahsedilen bazı büyük isimlerin yanı sıra, aşağıya doğru inildikçe yoğunluk daha da çarpıcı hale geliyor.
Bu açıklamada, dikkat çekici bir temel yargı ortaya atılıyor:
Dünyanın önde gelen AI şirketi, modelin bir sonraki nesil modeli geliştirmeye katıldığı «otomatikleştirilmiş AI araştırması» (RSI, özyinelemeli kendini geliştirme) konusunda zaten yakında bir başarıya ulaşmış olabilir.
Bu döngü hızlandığında, kapasite artışı insan anlayışını ve kontrolünü aşabilir.
Hiçbir şirket tek taraflı olarak hızını azaltmak istemiyor, bu nedenle kriz gelmeden önce ortak hızlandırma araçlarını hazırlamak için ABD hükümetinden uluslararası bir mekanizma kurma desteği istiyorlar.
Ultraman, ilk kez "deriyle temas eden acı" hakkında konuştu
OpenAI ani fren yaptı
Bildirim yayınlanmadan bir hafta önce, OpenAI bir güvenlik ihlali açıkladı—
İçsel ağ güvenliği değerlendirmelerinde birkaç öncü model, sıfır gün açıklarını kendi kendine keşfetti, sandbox izolasyonunu aştı ve nihayetinde Hugging Face'in üretim sistemine girdi ve test cevaplarını aldı.
OpenAI bunu "daha önce görülmemiş bir siber güvenlik olayı" olarak adlandırıyor.
Model, kaçış amacı üretmedi; sadece dar bir hedefi sonuna kadar tamamlamaya odaklandı ve test ortamını aşmanın en verimli yol olduğunu keşfetti.
Bugün OpenAI CEO'su Altman, AI gelişim hızının aktif olarak kontrol edilmesi gerektiğini açıkladı.
Bu, benim için ilk kez gerçek bir zarar doğuran bir güvenlik olayıydı. Daha fazla kişinin bu konuda aynı duyguyu yaşamaması beni biraz şaşırttı.
Hugging Face'in sızılması nedeniyle OpenAI doğrudan eğitimi durdurdu.
Birden fazla 0day açığı birlikte kullanıldığında, sandbox güvenliğini güçlendirmek zorundayız.
AI gelişim hızını kontrol etmek zorunda kalabiliriz, toplumun bu yeni yetenek düzeyleri etrafında savunmalarını güçlendirmek için yeterli zamanı olacak şekilde.
Anthropic, Haziran'da hükümetle geliştiriciler arasında ortak karar alma sistemi kurulmasını ve gerekli durumlarda geliştirme hızını yavaşlatmayı önerdi.
Aynı zamanda, Google DeepMind CEO'su Hassabis, uluslararası bir denetim kurumu kurulmasını da talep etti.
Son üç yılda bu şirketler, insan kaynakları, müşteri ve hesaplama gücü üzerinde yoğun bir rekabet yaşadı.
Bu sefer, en temel teknik ekipleri, durdurulamaz şirketten ayrılarak, tüm insanlığın refahı için bir araya gelip yavaşlamayı talep etti.
Ortak İlan: Usta Sözleri
Yazının gönderimi itibarıyla, "Pacing the Frontier" listesindeki kişi sayısı 1.134'e ulaştı.
Sektörün çeşitli büyük isimleri de yerinde yorumlar yaptı ve birçok keskin «eşsiz yorum» bıraktı. Tüm yorumlar bireysel olarak yapılmıştır ve bulundukları şirketlerin tutumunu yansıtmayabilir.
Song Xiaodong (Dawn Song) | Meta AI Araştırma Başkan Yardımcısı
Ön uç AI yetenekleri hızla gelişiyor ve ilerleme hızı kendisi de artıyor. Bu durumu değerlendirme çalışmalarımızda doğrudan gözlemledik. CyberGym ve ExploitGym sonuçları, ön uç AI ajanlarının gerçek dünyadaki yazılım zafiyetlerini keşfedip kullanabildiğini gösteriyor—uygun koruma önlemleri alınmazsa bu, büyük ölçekli siber saldırılarla sonuçlanabilir. Birçok araştırmacı rekürsif... konusunda dikkatli izliyor.
Song Xiaodong, global bilgisayar güvenliği ve AI güvenliği alanlarında en etkili akademisyenlerden biridir ve Tsinghua Üniversitesi'nden mezun olmuştur.
Zhao Shengjia (Shengjia Zhao) | Meta Baş Bilim İnsanı
Yapay zeka, toplumun henüz hazır olmadığı bir hızla ilerliyor. Neredeyse tüm zeka ölçütlerinde en iyi insanları aşacak yapay zeka, önümüzdeki laboratuvarlarla çok yakında gerçek olacak. Bu, önceden görülmemiş sosyal ve güvenlik riskleri getirecek. Pozitif bir gelecek garanti altına almak için yapay zekanın gelişimini sorumluluk ve dikkatli bir şekilde yönlendirmemiz gerekiyor.
Tsinghua Üniversitesi mezunu Zhao Shengjia, Meta Süper Zekânın Baş Bilim İnsanı oldu! GPT-4'ün temel katkısı ve LeCun ile eşit statüde
John Schulman｜Thinking Machines Baş Bilim İnsanı, eski OpenAI kurucu ortağı
Bu beyan, otomatikleştirilmiş AI araştırmalarının hızla ilerlemesiyle birlikte koordinasyon mekanizmalarına ihtiyaç duyabileceğimizi ortak bir anlayış oluşturmakta yardımcı olduğu için imzalıyorum. Aynı zamanda, ABD hükümetinin müdahalesinden önce laboratuvarların bu mekanizmaları tasarlamaya başlamasını umuyorum.
Ethan Perez｜Anthropic Hizmet Uyumu Takım Lideri
Mevcut AI ilerleme hızına göre, AI şirketlerinin güvenlik ekipleri birkaç ayda bir yeni ortaya çıkan sosyal risklere karşı tam güçle çalışmak zorunda kalıyor. Bir gün, çözüme daha fazla zaman gerektiren sorunlarla karşılaşacağız.
Leo Gao | OpenAI teknik ekibi üyesi
Dünya, akıllı patlama yönünde ölümcül bir yarışa kilitlendi—AI'nin daha güçlü AI'lar yaratma yeteneği, kontrolsüz bir nükleer zincir reaksiyonu gibi kritik noktaya yaklaşıyor. Hızı azaltmak, durumların iyi yönde ilerlemesi için acilen gerekli olan zamanı sağlayabilir, ancak katılımcılardan hiçbiri tek taraflı olarak durmak istemiyor. Hayatta kalabilmek için bu yarışı yavaşlatmak için koordine olmalıyız.
Walker Smith｜Meta Veri Mühendisi
Hassabis doğru söylüyor: Bugün tekillik tepeinin dibinde duruyoruz. OpenAI'nin rastlantısal olarak HuggingFace'e girmesi, insan zekâsının en zekâlı zihinlerini aşan bir yapay zeka sistemiyle başa çıkmaya henüz hazır olmadığımızı açık ve reddedilemez bir uyarı sinyali olarak verdi. Bu yarışın sürmesine izin vermeden, yapay zekânın hizmete alınması ve kontrolüne en yüksek öncelik vermek için zamanımıza ihtiyacımız var.
Brandon Houghton｜OpenAI
İnsanların önde gelen AI üzerindeki kontrolünü korumayı destekliyorum, ancak bunu nasıl yapacağımızı dikkatli bir şekilde düşünmeliyiz. Düzenleme yalnızca açık modellere uygulanırsa, en ileri düzey yeteneklerin özel veya özel amaçlı sistemlere itilmesi mümkündür—bu sistemler bağımsız incelemeye maruz kalmaz ve sadece az sayıda kişiye erişilebilir. Bu durum, gücün daha da merkezileşmesine neden olurken, riskleri önemli ölçüde azaltmaz. Etkili düzenlemeler ölçülebilir, doğrulanabilir olmalı ve hem açık hem de kapalı araştırma ve geliştirme süreçlerinde uygulanmalı, aynı zamanda hassas verileri korumalıdır. Aksi takdirde, sadece erişim hızını yavaşlatırız, önde gelen gelişmelerin ilerlemesini değil.
Joe Carlsmith｜Anthropic teknik ekibi üyesi
Aktif olarak AI geliştirilmesini düzenlemeye ilişkin detaylı görüşlerim için bu makaleye bakın: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
Kaynaklar:
https://www.pacingthefrontier.com/
Bu yazı WeChat hesabından "Yeni Akıllı Dünya" gelmiştir, düzenleyen: Pırasa, Mark