OpenAI, Pazartesi günleri İlk Işık'ı, geliştiricilere ve güvenlik ekiplerine güvenlik açıklarını daha hızlı tanımlamak, onarımları doğrulamak ve yazılım güvenliğini korumak için yapay zekayı kullanan bir siber güvenlik programı olarak duyurdu.
Bu duyuru, ileri modellerin kod analizi, yazılım açıklarının tespiti ve otomasyon teknik görevlerinde sürekli ilerlemesi nedeniyle yapay zeka şirketlerinin giderek daha çok siber güvenlik alanına doğru ilerlediğini vurgulamaktadır; bu da yapay zeka alanındaki dönüşümün genişlediğini göstermektedir.
Post'da X konferansında, OpenAI CEO'su Sam Altman, Daybreak'i "ağ savunmasını ve yazılımın sürekli korunmasını hızlandırmaya yönelik çabalar" olarak adlandırdı.
“Yapay zekâ, siber güvenlikte zaten harika ve yakında çok daha harika olacak; şimdi mümkün olduğunca çok şirketle iş birliği yaparak onların sürekli olarak kendilerini korumasına yardımcı olmak istiyoruz,” diye yazdı Altman.
OpenAI, Daybreak'in şirketin AI modelini kodlamaya odaklı akıllı sistemi Codex ile birleştirerek güvenlik ekiplerinin kodu incelemesine, bağımlılıkları analiz etmesine, tehditleri simüle etmesine, onarımları doğrulamasına ve tanımadığı sistemleri araştırmamasına yardımcı olduğunu belirtti. Şirket, zafiyetlerin tespit edilmesi ile onarılması arasındaki süreyi kısaltmayı hedeflediğini söyledi.
OpenAI bu konuda bir yanıt vermedi. Çözümleniyor.
Güvenlik araştırmacıları ve endüstri uzmanları, yapay zekâ tabanlı siber saldırı tehditleri konusunda uyarıda bulunurken, Midnight (NIGHT) ortaya çıktı. Claude Mythos geçen ay, Firefox tarayıcısı geliştiricisi Mozilla, Mythos'u kullanarak 271 tarayıcısında bilinmeyen bir açığa ulaştı.
OpenAI, bir açıklamada şunları söyledi: “Yapay zeka, geliştiricilerin kod tabanları boyunca çıkarım yapmasına, ince açıkları tanımlamasına, onarımları doğrulamasına, tanımadığı sistemleri analiz etmesine ve açıkları bulmaktan onarıma geçiş sürecini hızlandırmaya yardımcı olabiliyor. Bu yeteneklerin aynı zamanda kötüye kullanılma olasılığı nedeniyle, Daybreak, artırılmış savunma yeteneklerini güven, doğrulama, uygun güvenlik önlemleri ve hesap verebilirlik ile birleştiriyor.”
Aynı zamanda, büyük yapay zeka şirketleri modellerini siber güvenlik ve yazılım mühendisliği alanlarına doğru genişletmeye devam ediyor. OpenAI'nin rakibi Anthropic de yapay zeka alanındaki ilgili işleri giderek daha fazla öneme veriyor. İşlemde Yapay zeka şirketleri arasında kurumsal müşteriler için rekabet arttıkça, Claude modeli kodlama ve güvenlikle ilgili görevlerde kullanılabilir hale geliyor.
Uzmanlar hâlâ 分割 yapıyor; yapay zekânın oluşturduğu tehdidin düzeyi nedeniyle araştırmacılar ve hükümet kurumları, gelişmiş yapay zeka modellerinin bu tehdidin yayılmasını hızlandırabileceğini uyarıda bulundu. Network attacks , sızma testçilerinin açıkların araştırılmasını, kötü amaçlı yazılım geliştirme ve exploit oluşturma süreçlerini otomatikleştirmesine yardımcı oluyor. Aynı zamanda Google araştırmacıları, büyük dil modellerinin geleneksel güvenlik tarayıcılarının sıklıkla gözden kaçırdığı yazılım açıklarını tanımlama ve kullanma konusunda giderek daha iyi hale geldiğini belirtti.
OpenAI, ileri yapay zeka modellerini genel publice yayınlamadan önce, düzenleyici kurumların ve ulusal güvenlik yetkililerinin incelemesi için hükümet ve endüstri ortaklarıyla iş birliği yapmayı planlıyor.
OpenAI, "İlk güneş ışığı sabahın başlangıcını temsil eder. Ağ savunması açısından, bu, riskleri daha erken tespit etmek, daha erken harekete geçmek ve yazılımı baştan itibaren dirençli hale getirmek anlamına gelir."