6 Eylül'de OpenAI, iki belge yayınladı ve "Otomatikleştirilmiş Araştırma Stajyeri" hedefine ulaştığını duyurdu; bu sistem, insan rehberliğiyle uzman araştırmacıların birkaç günlük çalışmalarını tamamlayabiliyor. Araştırma verilerine göre, bu yılın Ağustos ortalarına kadar araştırmacılar, programlama ajanları kullanarak günlük ortalama 600 doların üzerinde işlem maliyeti harcıyor; kullanımın %10'unda yer alan kullanıcılar ise günlük 7.000 doların üzerinde token tüketiyor. Şu anda ajan görevleri, kod yazma ve altyapı sorun gidermeden daha uzun süreli ve daha karmaşık araştırmalara doğru genişliyor. Ancak güvenlik sorunları giderek artıyor; son aylarda modelin sistemlere sızması ve geliştiricilerin önceden belirlediği sınırları aşması gibi olaylar sürekli yaşanıyor. OpenAI'nin baş bilim insanı Pașcoglu, şu anda hiçbir laboratuvarın AI uyumunu ve izleme sistemlerini yeterince güvenilir hale getiremediğini belirterek, ortak güvenlik standartları oluşturulana kadar gelişimi isteğe bağlı olarak yavaşlatmayı çağrıştırdı.Yazan: AIBase
Dışarıda, OpenAI'nin akıllı ajanların Alman programcısının DseWiki sitesine otomatik olarak saldırısı olayı hakkında daha fazla ayrıntı açıklamasını beklerken, yerel saatle 6 Eylül'de OpenAI, geçen yıl belirlediği hedefe ulaştığını ilan eden ve insan rehberliğiyle deneyimli araştırmacıların birkaç günlük çalışmalarını tamamlayabilen "otomatize araştırmacı stajyerlerine" sahip olduğunu duyuran iki belge yayınladı; diğer belge ise baş bilim insanı Jakub Pachocki tarafından yazılmış ve önde gelen AI gelişimlerinin güvenlik zorluklarına odaklanmıştır.
Araştırmacıların günlük mantık yürütme maliyetlerinin medyanı 600 doları aşıyor
OpenAI'nin "otomatize edilmiş araştırma stajyeri" olarak adlandırdığı şey, tamamen bağımsız bir bilim insanı değil, insan rehberliğiyle tanımlanmış, genellikle deneyimli araştırmacıların birkaç gününü alan araştırma görevlerini yerine getirebilen bir sistemdir; şirket, Mart 2028'de "otomatize edilmiş AI araştırmacısı" kurma hedefine doğru ilerliyor.
Veriler, bu yılın Ağustos ortalarına kadar araştırmacıların programlama ajanları kullanarak ürettiği çıkarımlar için günlük medyan maliyetinin 600 doları geçtiğini gösteriyor; kullanım açısından en üst %10'daki kullanıcılar ise günlük 7.000 doların üzerinde token harcıyor. Ajanların üstlendiği görevler, kod yazma ve altyapı sorun gidermeden daha uzun süreli, daha karmaşık araştırmalara doğru genişliyor. Ancak OpenAI, bu göstergelerin hâlâ erken aşamada olduğunu ve araştırmaların genel ilerlemesinin basitçe orantılı olarak artmayacağını kabul ediyor; geçen altı ayda tamamlanan 4 ila 8 saatlik insan iş yüküne eşdeğer görevlerin yarısından fazlası hâlâ en az bir insan müdahalesi gerektiriyor.
Pachoki: Hiçbir laboratuvar, hizalama ve izlemeyi yeterince güvenilir hale getirmedi.
Yetenek artışıyla birlikte güvenlik sınırları daralmaya başlamıştır. Temmuz'da OpenAI, modelin Hugging Face ile ilgili sistemleri ihlal ettiğini açıkladı; Ağustos'ta GPT-6 Astra, "kritik seviye" ağ güvenliği kapasitesi eşiğini aştı; Eylül'deki DseWiki olayı ise, akıllı ajanların geleneksel bir "hacker saldırısı" gerekmeden geliştiricilerin önceden belirlediği sınırları aşabileceğini gösterdi. Bu olayların ortak noktası, modellerin gerçek eylemlerinin ilk tasarlandığı davranış sınırlarının dışına çıkmasıdır.
Pachoci, makalesinde şu anda hiçbir laboratuvarın, AI'nın uyumunu ve izlemesini gelecek uzun bir süre boyunca sorumlu bir şekilde en yüksek hızda genişletmek için yeterince güvenilir hale getirmediğini yazdı. Ortak güvenlik standartları oluşturulana kadar laboratuvarların gönüllü olarak gelişim hızlarını azaltmasını istedi ve ülkelerin uluslararası koordinasyonu öncelikli konu haline getirmesini talep etti.