Anthropic'te üç yıl model eğiten araştırmacı istifa etti ve gerekçesini herkesin görebileceği yere yazdı 🧐 Jacob Coxon, 27 yaşında. Önce OpenAI'da, sonra Anthropic'te pretraining tarafında çalışmış. Ayrılırken tek cümlede özetledi: laboratuvarlar kendi kendini geliştiren yapay zekâya doğru yarışıyor ve bunu hepimizin hayatı üzerinden yapıyorlar. Asıl ses getiren kısım bundan sonrası 👇 Anthropic'in hizalama biliminden sorumlu ismi Evan Hubinger çıkıp doğruladı. Kendi tahmini: önümüzdeki on yılda yapay zekânın hepimizi yok etme ihtimali yüzde 10'un üzerinde. Bugünkü modeller için riskin düşük olduğunu söylüyor, korktuğu şey özyinelemeli kendini geliştirme. Bir şirketin kendi güvenlik tarafındaki isminin bunu alenen söylemesi normal bir şey değil 😳 Tartışma anında politikaya sıçradı 🏛️ Bernie Sanders ve Greg Casar'ın 3 Eylül'de duyurduğu Ban Artificial Superintelligence Act zaten masadaydı: süper zekâya kalıcı yasak, yeni bir federal kurum kurulup güvenlik kuralları yazana kadar sınır modellerde geçici duraklama, ihlalde 20 yıla kadar hapis ve şirket için zorunlu tasfiye. Karşı cephe de boş durmuyor 🤨 İstifanın zamanlaması, ilk alıntıların büyük ölçüde aynı fondan beslenen politika kuruluşlarından gelmesi ve tam da tasarıyla çakışması "bu organik değil, düzenleyici yakalama hamlesi" diyenleri harekete geçirdi. Yani ortada iki hikâye var: ya sektörün göbeğinden gelen gerçek bir alarm, ya da rakiplerin önünü kesecek kuralları yazdırma operasyonu. İkisinin aynı anda doğru olma ihtimali de var. Bu arada Anthropic bugün bugüne kadarki en detaylı tehdit istihbaratı raporunu yayımladı. Modellerin siber saldırı, etki operasyonu ve gözetim için kötüye kullanılma denemelerini anlatıyor. Tartışmanın hangi zeminde yürüdüğünü görmek isteyen için iyi bir belge 📄 Sen hangisini daha ikna edici buluyorsun, samimi bir uyarı mı yoksa iyi kurgulanmış bir lobi mi? 🤔 Bu içerik bilgilendirme amaçlıdır, yatırım tavsiyesi veya yatırım danışmanlığı niteliğinde değildir.