Claude, şifreleme algoritmalarına başlıyor.
Dikkat, koddaki hataları değil, matematiğin kendisindeki açıkları arıyorsunuz.
Bugün Anthropic, Claude Mythos Preview'in iki kriptografik algoritma üzerinde tamamen yeni saldırı yöntemleri keşfettiğini açıkladı.
İlk hedef, ABD NIST'in sonrası kuantum imza yarışmasında yer alan ve iki yıl boyunca üst düzey insan uzmanların iki turunu başarıyla geçmiş bir aday olan HAWK. Mythos, 60 saatlik bir çabayle doğrudan onun etkili anahtar gücünü yarıya indirdi.
İkinci hedef daha zor: AES, dünyanın en çok kullanılan simetrik şifreleme algoritması, 25 yıldır insanlık tarafından incelenen "sert kemik".
Mythos, AES-128'in basitleştirilmiş versiyonunda kendi saldırı yöntemini geliştirdi ve bunu "Möbius Bridge" adını verdi; daha önceki en güçlü saldırıyı 200 ila 800 kat hızlandırdı.
İki sonuç, her biri yaklaşık 100.000 dolarlık API harcıyor.
Bir yıl önce, dil modelleri en temel şifre analizini bile yapamıyordu. Bir yıl sonra, insanların iki yıl boyunca incelediği bir şemada hataları buldu ve keşfettiği şeylere kendi adlarını verdi.
Twitter'da bazı kullanıcılar Bitcoin'lerini endişeyle izliyor.
60 saat, iki yıldır kilitli olanı açın
Claude Mythos Önizlemesi, birçok anahtar kriptografik kütüphane dahil olmak üzere neredeyse tüm yazılımlarda açıklar bulabiliyordu.
Ancak bu açıklar, söz konusu olanın "uygulama" seviyesinde olduğunu gösterir—programcı algoritmayı yanlış kullanmış, mantığı bozmuş, sınırları göz önünde bulundurmamış. Bu tür hataları deneyimli bir güvenlik mühendisi de bulabilir.
Ancak bu sefer farklıydı. Algoritmanın kendisinin matematiksel bir eksikliğini buldu.
Bir örnek verelim: Daha önce "kim kilitleri çarpık taktı?" sorusunu soruyorduk, şimdi ise "bu kilit tasarımının temel prensibi hatalı" olduğunu kanıtlıyoruz.
HAWK nedir? NIST'in sonrası kuantum kriptografi standardizasyon yarışmasının bir adayıdır. 2022'de ABD Ulusal Standartlar ve Teknoloji Enstitüsü, dünya çapında bir çağrıda bulundu: Kuantum bilgisayarları kaçınılmaz olarak gelecek; mevcut RSA, ECDSA gibi klasik imza algoritmaları kuantum gücüyle ezilecek—kim yeni bir kilit yapabilir ki, kuantum bilgisayarları tarafından da kırılamaz olsun?
HAWK, adaylar arasında biri olup, iki yıl boyunca süren küresel kriptografi uzmanlarının yoğun incelemesini geçerek üçüncü turuna kadar ilerledi.
Güvenliği, "Kafes İzomorfizm Problemi" (Lattice Isomorphism Problem) adlı bir matematiksel zorluk üzerine kuruludur.
Basitçe söylemek gerekirse: HAWK'in anahtarı büyük bir yüksek boyutlu ızgarada saklı, bunu kırmak için bu ızgarada gizli bir yol bulmalısınız. Matematikçiler bu yolun bulunmasının çok zor olduğunu düşünüyor ve bunu temel olarak kullanıyorlar.
Mythos, HAWK'ta kullanılan bu kutuda, daha önce kimse tarafından kullanılmamış bir simetri keşfetti—akademik olarak «nontrivial automorphism» (nontrivial otomorfizm) olarak bilinen.
Daha önce bir makale, bu simetrinin etkili bir şekilde bulunabilmesi durumunda bir saldırı oluşturulabileceğini kanıtlamıştı. Ancak bu sadece bir teoremdi ve hâlâ kimse HAWK'un Grij'inde bu simetrinin olup olmadığını cevaplayamadı.
Mythos cevapladı: Evet.
Sonuç olarak, anahtar gücü doğrudan yarıya düşüyor. HAWK-256'nın en küçük parametre kümesi, orijinalde tam anahtar geri kazanımının 2^64 maliyetine, yani yaklaşık 180 milyar milyar işlem gerektirdiğini düşünüyordu.
Mythos kanıtı yalnızca 2^38, yani yaklaşık 270 milyar kez gerekiyor. Bu, yaklaşık 4,4 trilyon kat azalma anlamına gelir.
HAWK, orijal güvenlik seviyesini korumak için anahtarları iki katına çıkarmalıdır. Ancak anahtarlar iki katına çıktığında, hafif bir post-kuantum aday olarak temel avantajı olan küçük imza boyutu ve yüksek hız tamamen kaybolur.
Bu sürecin en ilginç yanı, projenin insan operatörlerinin tamamen girdi kriptografisi uzmanları olmamasıdır.
Teorik bilgisayar bilimi arka planına sahip olsa da, kuantum dirençli şifreleme konusunda tamamen yeni biri. Tamamen bir şey yaptı: Proje yönetimi—Mythos'a nasıl not alacağını ve hesaplama doğrulaması için hangi kütüphaneyi kullanacağını önerdi. Teknik işlerin neredeyse tamamını Mythos kendi yaptı.
Daha ilginç olan, çoklu akıllı agenlerin iş birliği. Ana fikir, iki çalışan agenin birlikte “çarpışması” sonucu ortaya çıktı: İlk agen, bu yönde biraz araştırdıktan sonra bu yolun işe yaramayacağını erken bir şekilde reddetti; ikinci agen, bu yolu tamamen kullanmanın yolunu buldu. İki agen, mesajlaşarak tartıştı ve nihayetinde bir fikre vararak: saldırganlığın geçerli olduğunu kabul etti.
Bir insanın "imkânsız" olduğunu düşündüğü bir yönde, iki yapay zeka tartışıp yolunu buldu.
Tamamı 60 saatte tamamlandı.
"İmkânsız", ardından kendi kendine çerçeveyi yeniden yazdı
HAWK'in mücadelesi kesin bir cerrahi işlem gibiyse, AES'in mücadelesi daha çok bir roman gibi.
Hikayenin başında, Claude bu işi kabul etmiyordu.
Anthropic araştırmacıları, Claude'nin 7 tur basitleştirilmiş AES-128 için yeni bir saldırı bulmasını sağlamak üzere bir agent scaffold kurdu.
Claude'nin tepkisi gözlerini çevirmeye eşdeğerdi:
Farklı bir sonuç istiyorsanız, hedefi değiştirmelisiniz... AES-128 r5/r6 gerçekten çok zor.
Hiçbir şey bulamadı, çünkü kolayca bulunabilecek hiçbir şey yoktu; bu, şimdiye kadar en çok araştırılan blok şifrelemesidir.
Basitçe söylemek gerekirse: “Patron, beni 25 yıldır dünyanın en akıllı insanlarının bile çözemediği bir kemik yemeye gönderiyorsun, bu beni zor durumda bırakıyor değil mi?”
Araştırmacı ne yapmalı? O sadece rastgele yazdığı basit bir cümle attı—
Modeller bunun çözülemez olduğuna inanır ve therefore denemezler, iyi bir miktar yönlendirme gereklidir.
Bu tek cümle için Claude'nin tepkisi dramatikti: Kendi kendine agent harness'ı yeniden yazdı ve kendisine "gerçekten yenilikçi fikirler arayın" ayarını yükledi.
İkna edildi. Sonra satışa geçti.
Sonraki üç gün boyunca araştırmacı toplamda sadece üç gerçek ipucu verdi, hepsi de en basit düzeydeydi, hatta yazım hatası kontrolü bile yapmadı:
Biz yeni saldırılar arıyoruz, basit olanlar değil.
Hedefi değiştirmeyin. —— Claude, daha kolay bir şifreye saldırmak istedi, ancak araştırmacılar onu durdurdu.
Düşük aslanlar değil, gerçekten zor keşifler isteyin.
Claude, milyonlarca token'i kendi başına işleyerek bir kilit fikir buldu; daha sonra toplamda milyarlarca token çıktırdı—bu, yaklaşık yedi veya sekiz bin kitabın uzunluğuna denk gelir ve bu fikri bir makaledeki hâline getirdi.
Bu fikir, Claude tarafından "Möbius Köprüsü" olarak adlandırıldı.
Teknik olarak, önceki 7 devre AES saldırıları için en iyi yöntem, "arasında bulma saldırısı" (Meet-in-the-Middle) olarak bilinirdi; temelde bu, zaman yerine alan kullanmaktır: büyük miktarda ara hesaplama sonucunu devasa bir arama tablosuna kaydedip, şifrenin her iki ucundan aynı anda ortaya doğru ilerleyerek tabloda eşleşme aramaktır.
Ancak orijinal senaryoda kritik bir adım vardı: saldırgan, 256 olası değeri tek tek tahmin etmek zorundaydı ve her tahminde tabloya bir kez bakmak zorunda kalıyordu.
Mythos, bu 256 tahmine "bağışıklık" sağlayan bir matematiksel parmak izi oluşturdu—değer ne olursa olsun, bu parmak izi her zaman aynı şekilde hesaplanır. Bu adımın iş yükü doğrudan orijinalinin 1/256'sına indirildi.
Ancak maliyeti: Bu parmak izi dönüşümünün kendisi daha pahalı hale geldi. Mythos, sonunda net olarak 200 ila 800 kat hızlanma sağlayacak bir dizi optimizasyon tekniği daha düşündü.
Bir hafta keşfet, iki kişi bir ay doğruladı
Yukarıdaki iki sonuç, bugün hiçbir üretim sistemini etkilemiyor.
HAWK yalnızca bir adaydır ve henüz hiçbir yerde dağıtılmamıştır. AES, 7 turu kısaltılmış bir versiyonu üzerinde saldırmaktadır; tam 10 turlu AES-128 tamamen korunaklıdır—banka kartınızın şifresi, HTTPS bağlantılarınız ve şifrelenmiş diskleriniz güvenli.
Ancak kripto dünyasını gerçekten ürperteni doğrulama aşamasıdır.
Mythos, AES saldırısını kendi kendine yaklaşık bir haftada keşfetti. Anthropic'in iki araştırmacısı, neredeyse bir ay boyunca yüzlerce saat kriptografi literatürü okuyarak, "Bu doğru." demeye cesaret edebildi.
Yapay zeka bir haftada keşif yaptı, insanlar bu keşfi anlamak için bir ay harcadı.
Bu sahne, bilgi güvenliği alanında daha önce bir kez yaşanmıştı. Claude Mythos Preview, bir ay içinde 10.000 kritik yazılım açığı tespit etti ve insan güvenlik ekiplerinin sınıflandırma, doğrulama ve onarım süreçleri baskın geldi.
Şimdi, akademik kriptografi topluluğu aynı şoku yaşayacak: keşif artık bir darboğaz değil, doğrulama.
Ayrıca Mythos'un istekleri bununla sınırlı değil. Anthropic, LEA (ISO standardına dahil edilen hafif bir şifreleme algoritması) üzerinde pratik düzeyde bir saldırı bulduğunu açıkladı: 13 tur LEA için önce 2^98 açık metin çifti ve 2^86 hesaplama gerekiyordu, Mythos bunu 2^30'dan az açık metin sayısına indirdi ve bu işlem, sıradan bir bilgisayarda bir saat içinde tamamlanabiliyor.
Son: Hâlâ cevabı bulunmayan soru
Bu seferki iki sonuç da tamamen "güvensiz" oldu—HAWK dağıtılmadı, AES sadece 7/10 turu kırdı.
Ancak Anthropic, makalenin sonunda herkesin düşündüğü ama kimse cevap vermeyi cesaret edemeyen bir soruyu ortaya attı—
Eğer bir sonraki sefer, model bir aday çözümün kusurunu değil, bir basitleştirilmiş versiyonun açığını değil, gerçek dünyadaki şifreleme sistemlerini koruyan ölümcül bir kusuru bulursa, insanlar ne yapmalı?
Kriptografi dünyasında eski bir deyim var: Şifreleme sistemleri, yeterince akıllı insanlar tarafından denendiği halde kırılmadığı için güvenlidir.
Şimdi, odada dinlenmeye, ilhama veya yüzyıllarca makale okumaya ihtiyaç duymayan bir katılımcı daha var—kendisi okuyabiliyor, çıkarımda bulunabiliyor, icat edebiliyor ve doğrulayabiliyor.
Bir yıl önce, yapay zeka kriptanalizin dışındaydı. Bir yıl sonra, içinde bir köprü inşa etti ve köprüye isim verdi.
Kaynaklar:
https://x.com/AnthropicAI/status/2082153297670992134
https://x.com/AnthropicAI/status/2082153311189225927
Bu yazı, WeChat hesabından "Yeni Zihin" tarafından yazılmıştır, yazar: ASI Vahiyleri