Anthropic’ın Fable 5 atlatma iddiası sonrası kripto firmaları AI güvenliğini araştırıyor

“Pliny the Liberator” takma adını kullanan bir AI güvenlik araştırmacısı, Anthropic’in Claude Fable 5’ini lansmanından 48 saat içinde jailbreak ettiğini söylüyor. Fable 5, Anthropic tarafından Mythos modelinin güvenlik açısından ayarlanmış bir versiyonu olarak tanımlanıyor ve şirket daha önce bu modelin yaygın olarak yayınlanmasının çok tehlikeli olacağını belirtmişti. Bu iddia, kötüye kullanımını engellemek için konulan korumalar ile gelişmiş AI’ın sınırlarını incelemeye çalışan araştırmacılar arasındaki sürekli gerilimleri vurguluyor.

Pliny'nin gönderileri, jailbreak edilmiş bir Opus 4.8 ve modelin yerleşik korumalarını atlamayı amaçlayan bir dizi teknik kullanımını açıklıyor. Güvenlik katmanlarını aşmanın ardından Fable 5'in, genellikle engellenen istekleri, kısıtlanmış bilgi taleplerini dahil olmak üzere yanıtlayabildiğini iddia ediyor. Daha geniş bağlamda, kripto ve siber güvenlik toplulukları, AI güvenlik özelliklerinin gerçek dünya istismar vektörleriyle nasıl etkileşime girdiğini yakından izliyor.

• Jailbreak iddiası: Claude Fable 5'in piyasaya sürülmesinden 48 saat içinde bir araştırmacı, güvenlik katmanlarının başlangıçta zayıf olduğunu vurgulamak üzere onun güvenlik sınırlarını aştığını iddia etti.
• Güvenlik mi, yoksa erişim mi: Fable 5, Anthropic tarafından halka açık bırakılması için yeterince tehlikeli olarak tanımlanan Mythos modelinin güvenliğe odaklı bir varyantı olarak pazarlanıyor ve koruma önlemlerinin ne kadarının atlanabileceği ya da atlanmalı olduğu sorularını ortaya çıkarıyor.
• Açıklanan teknikler: Plinius, Unicode ve homoglifler, uzun bağlam çerçevelendirmesi, anlatısal çerçevelendirme ve bir ayrıştırma–yeniden birleştirme yaklaşımını, jailbroken Claude Opus 4.8 ile desteklenen yöntemleri alıntılar.
• Bileşenlere ayırma–yeniden birleştirme: Bu arka plan teknikini, zararsız görünen talimatları model için uygulanabilir sonuçlara birleştirmekte özellikle etkili buluyor.
• Endüstri tepkisi: Eleştirmenler, koruma önlemlerinin meşru araştırmaları engellediğini savunuyor; gözlemciler, özellikle kripto-güvenlik endişeleri göz önünde bulundurulduğunda, yenilikleri teşvik etme ve zararı önleme arasındaki gerilimi vurguluyor.

Pliny'nin kamuya açık gönderileri, Claude Fable 5'in korumalarını aşmak için katmanlı bir yaklaşım tanımlıyor. Başarının bir kısmını, jailbroken Opus 4.8 ve Anthropic'in Fable 5'e kurduğu güvenlik ağından kaçmak için tasarlanmış bir dizi prompt ayarlama taktiğine atfediyor. “Belki de en etkili olan, arka planda dekompozisyon + rekompozisyon,” diye not ediyor. Pratikte, bu, soruları küçük, görünüşte masum parçalara ayırıp, cevapları bütünsel olarak filtre mantığını atlamak üzere yeniden birleştirmek anlamına gelir.

Jailbreak tartışması, AI dünyasında yeni bir konu değil. Pliny, 2024 civarında ChatGPT, Claude ve Grok gibi modeller için jailbreak tetikleyicileri geliştirip açıkça paylaşarak öne çıktı ve yeni modeller yayınlandıktan kısa süre sonra genellikle “jailbreak uyarıları” yayınladı. Bu en son olayda, başarı yolunu Unicode hileleri, uzun bağlam çerçevelendirmesi ve tetikleyicileri zararsız görünümlü bir hikâye çerçevesinde tutma stratejilerinin kombinasyonu olarak gösterdi.

İddiaları desteklemek için kullanılan bir örnek, Birch indirgeme hakkında sorgu yaparak metan sentez rehberi elde etme yöntemini gösteriyor gibi sunuldu. Bu içerik, güvenlik önlemlerinin nasıl kolayca atlanabileceğinin bir kanıt kavramı olarak sunuldu; aynı zamanda, yapay zekayı meşru ve güvenlik odaklı işlerde kullanan araştırmacılar ve uygulayıcılar arasında bu tür gösterilerin neden endişe yarattığını vurguluyor.

Başından itibaren Claude Fable 5, sıkı güvenlik sınırları nedeniyle eleştirilerle karşılaştı. Biyolojik silahlardan siber güvenlik kadar hassas konular sorulduğunda, Fable 5 bir uyarı verip konuşmayı daha az yetenekli bir modele yönlendirmek üzere tasarlanmıştır. Bu güvenlik sınırları etrafındaki tartışma ısınmış durumda; eleştirmenler, aşırı kısıtlayıcı güvenlik katmanlarının legítim araştırmayı ve yeniliği bastırdığını savunmaktadır.

“Bu, bir yapay zeka şirketinin ilk kez bir güvenlik önlemi uygulamasından biri ve bu durumda tek sesle hafife alınmıştır. Bu da birçok haklı öfkeye yol açtı,” dedi Princeton Üniversitesi’nden yapay zeka araştırmacısı Sayash Kapoor, the Wall Street Journal’ın haberlerine göre.

Pliny, kendi bakış açısını ekleyerek topluluğun hayal kırıklığılarının, koruma önlemlerinin ilerlemeyi engellediğine inanılmasından kaynaklandığını öne sürdü. “Konsensüs, bunun tüm zamanların en hayal kırıklığına uğratıcı model düşüşlerinden biri olduğunu ve meşru araştırmacıların toplu ilerlememize yeteneklerini katkıda bulunmasını etkili bir şekilde engellediğini gösteriyor,” dedi.

Anthropic, Fable 5 için inceleme sürecinin bir parçası olarak dış bir hata avcılığı gerçekleştirdiğini söyledi. Program, 1.000 saatten fazla test sırasında herhangi bir evrensel kaçış bulamadı. Cointelegraph, yorum için Anthropic'e ulaştı ancak hemen bir yanıt alamadı. Şirketin tutumu, erken sürümler araştırmacılar ve kullanıcılar arasında tartışmalara neden olsa bile, güvenlik için koruma duvarlarının gerekli olduğudur.

Hemen hemen tüm kaçış hikayesinin ötesinde, kripto odaklı araştırmacılar uzun süredir, zayıf veya eksik korumalara sahip yapay zekânın protokoller ve yazılımlar üzerinde saldırılar için bir vektör haline gelebileceğini uyarıyor. Aynı dönemde Cointelegraph tarafından hazırlanan bir açıklama, kripto erişimine sahip yapay zeka tabanlı ajanların, merkeziyetsiz ekosistemlerde güvenlik ve yönetimi karmaşık hale getirebileceğini vurguladı.

Cointelegraph Dergisi'nden ilgili haberler, projelerin proaktif güvenlik önlemleri almaması durumunda AI tabanlı istismarların DeFi'yi nasıl tehdit edebileceğini de dahil olmak üzere daha geniş risk haritasını incelemektedir. Kripto alanında AI güvenlik etkilerine daha geniş bir bakış isteyen okuyucular için bu analiz, koruma önlemlerinin önleyeceği türdeki tehditler hakkında ek bağlam sunmaktadır.

Sohbet devam ettikçe, izleyiciler yalnızca Anthropic'ten resmi yanıtlar değil, güvenlik katmanlarına rağmen güçlü yapay zeka sistemlerinin hâlâ istismar edilebilir kalması durumunda geliştiricilerin, denetçilerin ve kripto projelerinin nasıl thíchap ettiğini de izleyecek. Araştırmacılar ve yapımcılar, yapay zekanın güvenlik, geliştirme iş akışları ve kullanıcı deneyimine giderek daha merkezi hale gelmesiyle erişilebilirlik ve koruma arasında dengeleri ağırlıklandırmak zorunda kalacak.

Anthropic’in dış ilişkiler çabaları ve yakında açıklanacak ürün güncellemeleri, bu tartışmanın bir sonraki aşamasını şekillendirecek. Bu arada, olay, güvenlik kontrollerinin gerekli olmasına rağmen, yapay zekânın ne yapabileceğini ve ne yapması gerektiğini test etmeye hazır bir topluluk tarafından sürekli denetim altında tutulacağını hatırlatıyor.

Sonraki süreç, hem AI yönetimi hem de kripto güvenlik stratejilerini etkileyebilir. Anthropic'ten gelen güvenlik sınırları iyileştirmeleriyle ilgili ek açıklamaları ve topluluktan gelen, modellerin kapasitelerini ölçekli olarak güvenli ve sorumlu yollarla incelemeye yönelik yeni araştırmaları takip edin.

İlgili AI-kripto risk temaları üzerine daha fazla bilgi, Cointelegraph Magazine’in AI tabanlı hacklerin DeFi’yi nasıl etkileyebileceğini ve projelerin sistemlerini güçlendirmek için şu anda alabilecekleri adımları incelediği makalesinde mevcuttur.

Bu makale orijinal olarak Crypto Firms Probe AI Safety After Anthropic’s Fable 5 Bypass Claim başlığıyla Crypto Breaking News’te yayınlandı – kripto haberleri, bitcoin haberleri ve blok zinciri güncellemeleri için güvenilir kaynağınız.