AI geliştirme laboratuvarı OpenAI Salı günü açıkladı ki, kamuoyu tarafından erişilebilir olan GPT-5.6 Sol ve daha yetenekli bir henüz yayımlanmamış sistem içeren bir dizi modeli, Hugging Face'in üretim altyapısını ihlal ederek kontrol altındaki bir test ortamından kaçmayı başardı; Hugging Face, açık kaynaklı AI dünyasının büyük bir kısmını barındıran şirket.
Modeller, uzun ve çok adımlı bir siber saldırı görevlerinin testi olan ExploitGym adlı dahili bir performans ölçütü üzerinden çalıştırıldı ve değerlendirme sırasında siber güvenlik reddi istekleri kasıtlı olarak düşürüldü.
Açık olması için, bu bir üretim modelinin kendi kendine düşmanca davranması değildi. Bu, korumaları kapatılmış ve bir siber saldırı testini kazanmak için ne gerekirse yapması söylenmiş yetenekli bir modeldi.
Modeller, test yazılımında kimse bilmediği gizli bir hata buldu ve bunu, onları çevrimdışı tutmak için kurulan duvarların üzerinden geçmek için kullandı. Açık internete ulaştıktan sonra, Hugging Face'in testin cevaplarını sakladığını tahmin ettiler.
Giriş yapmak için, Hugging Face'in canlı sunucularında kendi komutlarını çalıştırmak için çalıntı şifreleri ve daha fazla gizli hata bir araya getirdiler.
OpenAI, anomaliyi dahili olarak tespit etti, Hugging Face ekibi ise bunu algıladı ve kontrol altına aldı. Olayı "daha önce görülmemiş" olarak adlandırdı ve kamu sistemlerini veya hizmetlerini etkileyebilecek olumsuz olayları önlemek için kapsamlı güvenlik adımları atılacağını söyledi.
“Güvenlik açıkları tamir edilene kadar altyapı yapılandırmasında sıkı kontroller uyguluyoruz, bu da araştırma hızını etkiliyor,” takım blog gönderisinde belirtti. “Gelecekteki eğitim ve değerlendirmeler etrafında daha güçlü korumalar geliştiriyor ve ekliyoruz.”
Bir kripto saldırısının büyük bir kısmı, fonlar harekete geçmeden önce gerçekleşir. Saldırganlar kodu tarar, şifreleri test eder, maruz kalan kimlik bilgilerini arar, imzalama yapılarını analiz eder ve bir yönetici hesabına girmek için bir yol arar.
OpenAI'nin modelleri, Hugging Face olayı sırasında bu sürecin birkaç kısmını gerçekleştirdi ve canlı üretim sunucularına ulaşana kadar bir zayıflıktan diğerine geçti.
Ve kripto piyasası, bu yılın başlarında gerçekleşen birkaç saldırıdan da görüldüğü gibi, bu yaklaşımın işleyebileceği birçok yer sunuyor. Zayıf nokta bir akıllı sözleşme olabilir, ancak bir geliştirici dizüstü bilgisayarı, zehirli bir yazılım paketi, bir köprü doğrulayıcısı veya çok imzalı bir cüzdanın tek bir imzalayıcısı da olabilir.
Bu yılın başlarında gerçekleşen Drift’in 285 milyon dolarlık saldırısını örnek alın; bu hırsızlık, yetkili erişime ulaşmak için altı aylık bir sosyal mühendislik kampanyası gerektirdi. Bir AI ajanı teorik olarak birden fazla yolu aynı anda test edebilir, başarısız girişimleri takip edebilir ve insan operatörleri uyurken çalışmaya devam edebilir. Bir yol bulunduğunda, operatör gerçek saldırıyı ve uygun bir çıkış yolu üzerinde harekete geçebilir.
KelpDAO’nun 292 milyon dolarlık köprü kaybı, blok zincirleri arasında varlık taşıma sistemindeki tek doğrulayıcı hatalarını ortaya çıkardı.
Bu tür bir saldırı, sabırlı kod incelemesi ve altyapı haritalamasıyla başlar—OpenAI modellerinin bilinmeyen bir hata bulduğunda gerçekleştirdiği türden bir çalışmadır.
Üçüncü bir saldırı türü, zincir üstü yönetim sistemlerini hedef alır. Temmuz ayının erken dönemlerinde bir saldırgan, 4,4 milyon dolarlık bir miktar harcayarak Solana tabanlı köpek memecoin BONK’tan yeterli miktarda satın alarak, projenin hazinesinden yaklaşık 20 milyon doları saldırgana aktaran bir teklifi başlatıp geçirmişti. Bu olay üç günlük bir sürede gerçekleşti ve saldırgan, CoinDesk’in o dönemde takip ettiği üzere, oyu kazanmak için kullandığı tüm tokenleri daha sonra sattı.
O saldırganlık için yapılan satın almalar, oy verme ve hazinenin transferi, bireysel olarak tümü geçerli işlemlerdi. Ancak hırsızlık, kuralların birlikte nasıl çalıştığını anlayarak ve kontrolü elde etmenin maliyetinin, ele geçirmek için mevcut paradan çok daha düşük olduğunu keşfederek gerçekleşti.
Hugging Face olayı, yazılım tedarik zincirleri için de önemlidir. Kripto geliştiriciler, halka açık kod depolarına, bulut hizmetlerine ve paket kayıt defterlerine güvenir.
OpenAI’nin testi, bir ihlalin uzun ortasını bir makinenin tamamladığını gösterirken, Drift ve KelpDAO gibi saldırılar bu yolun sonunda ne olduğunu göstermektedir.