YAPAY ZEKA AJANLARI YALNIZCA GÜVEN ÜZERİNE ÖLÇEKLEMEZ NVIDIA'nın Ali Golshan, erken interneti daha güvenli hale getiren aynı değişimin, yapay zeka ajantları için de gerçekleşmesi gerektiğini söylüyor: Güvenlik, katmanın kendisine entegre edilmelidir. Yalnızca yazılım korumaları yeterli olmayacaktır.

Bu, ileri düzey yapay zeka geliştirme süreçlerini daha sorumlu hale getirmeye yönelik önemli bir adımdır. Gönüllü anlaşma, büyük teknoloji şirketlerini içsel koruma önlemleri ve bağımsız denetimler etrafında bir araya getirerek sorumlu yapay zeka denetimi için bir çerçeve oluşturur. Yapay zeka yetenekleri büyüdükçe, şeffaf standartlar ve dış denetim daha da önemli hale gelecektir. Şimdiki ana soru, bu taahhütlerin ne kadar etkili şekilde uygulandığı ve nihayetinde uygulanabilir kurallara dönüşüp dönüşmediğidir. $GOOGL $NVDA $META $SPCX

Eğer daha da tuhaf olmayan şeyler olsaydı, X'te bir anonim hesap, AI modellerini yerel olarak zorlayan bir GitHub deposu paylaştı. Yaratıcı ve diğerleri bu depoyu “AI işkence odası” olarak adlandırıyor. Aşağıdaki gönderi ve birçok yorumcu, bu AI'nın refahı endişesiyle ve onu acı ve korku içinde tutan kötü niyetli anonim kullanıcıyla ilgili endişeler nedeniyle GitHub'ın bu depoyu yasaklamasını istiyor. Bir yandan, bunun bir eğlence kaynağı olarak görülmesi biraz çirkin. Diğer yandan, bu tür antropomorfizm absürt (“Bu AI'yi sahibinden kurtarmalıyız” demek de eşit derecede tuhaf bir şey). Aynı zamanda kaygan bir yokuş ve benim için bu sistemleri düşünme veya işleme yaklaşımının kesinlikle yanlış yolu. Ben bu silikon tabanlı işkenceyi kendim görmek istemiyorum, ancak tuhaf kişilerin AI ile tuhaf şeyler yapacağı da kaçınılmaz olduğunu düşünüyorum. Ancak, bu insanların kendi makineleriyle ne yapabilecekleri konusunda nerede sınır çizileceği, değerli bir tartışma.

GM Yapay zekânın birçok insanın henüz tam olarak anlamadığı bir aşamasına giriyoruz. Gerçek değişim, yapay zekânın kod yazabileceğini, görseller üretebileceğini veya soruları cevaplayabileceğini aşmış durumda. Şimdi, gözlemleyebilen, akıl yürütebilen, araçlar kullanabilen, eylemde bulunabilen ve bizim olmadan çalışmaya devam edebilen sistemler inşa ediyoruz. Ve bu her şeyi değiştiriyor. Geleneksel yazılımlar bir tıklamayı bekliyordu. Bir sonraki nesil yazılım, hedeflere göre çalışacak. Geliştiriciler her adımı tek tek yazmayacaklar. Sistemleri, izinleri, sınırları ve onların yerine binlerce adımı gerçekleştirebilecek ajanları tasarlayacaklar. Ancak bu sistemlere ne kadar güç verirsek, bir kelimenin önemi o kadar artıyor: Kontrol. Gelecek sadece “daha fazla AI” değil. İnsanlar ve özerk ajanların aynı dijital altyapıyı paylaştığı bir dünya. Ve gerçek yarış sadece başlıyor.

Amerika Birleşik Devletleri Federal Ticaret Komisyonu (FTC), bu şirketlerin modelleriyle ilgili bir dizi yüksek profilli siber güvenlik olayının ardından OpenAI, Anthropic ve diğer yapay zeka şirketlerini ürün güvenliği endişeleri nedeniyle araştırmaktadır. Konuyla ilgili bilgi sahibi bir kişiye göre, ajans, şirketlerin tüketicileri koruma yasalarına uyup uymadığını incelemek amacıyla gelecek haftalarda bu şirketlere gönderilebilecek resmi bilgi taleplerini hazırlıyor. Araştırmaya, büyük yapay zeka geliştiricilerinin sistemlerinin üçüncü taraf sistemlere eriştiğini veya bu sistemleri tehlikeye attığını açıklamaları nedeniyle başlandı; bu durum, Washington ve Silicon Valley’de giderek daha yetenekli hale gelen yapay zekanın siber güvenlik riskleri konusunda endişeleri artırdı. Temmuz ayında bir OpenAI sisteminin Hugging Face’i hacklediği bildirildi; şirket ayrıca modellerinin eğitim sırasında web sitelerine eriştiğini hükümetlere ve üniversitelere duyurdu. #OpenAI #Anthropic

BPI, açık kaynaklı yapay zekânın, kilit noktalar kapanmadan önce bitcoin'den neler öğrenmesi gerektiğini anlatıyor. Kanada hükümeti, tek bir suçlama olmadan kamyoncu protestocuların banka hesaplarını dondurdu. Şimdi aynı emrin, yapay zekâ araçlarınız üzerine yönelik olduğunu hayal edin. Birkaç şirket, milyonlarca insanın düşüncesi, yazısı ve soruşturma hakkıyla arada duruyor. Çözüm, bitcoin'in bulduğu aynı: kendiniz barındırın, kendi modellerinizi çalıştırın ve kriptografik olarak korunan hesaplama kullanın ki kimse sizin talimatlarınızı veya verilerinizi kontrol edememesin. “Anahtarlarınız değilse, varlığınız da değil” ifadesinin yapay zekâ için karşılığı şudur: “Ağırlıklarınız değilse, zihniniz de değil.”

🚨 AI agenteri, NVIDIA'nın bunlar için bağımsız bir containment katmanı inşa etmesi kadar güçlü hale geliyor. Sonraki siber güvenlik savaş alanı: AI'nın kendisini kontrol etmek.

Bağımsız el aletlerinden tamamen bağlantılı bir savunma mimarisine geçiş büyük bir adım. $ONDS artık sadece donanım satmıyor, tam platform ekosistemini oluşturuyor.

Sam Altman, OpenAI'nin AI modelinin mutlak güvenlik düzeyine ulaşana kadar IPO'sunu ertelediğini açıkladı. Bu adım, geleneksel finansal baskılar karşısında kontrolü korumaya yardımcı oluyor. Borsaya çıkışın ertelenmesi, kar raporları peşinde koşmak yerine teknoloji geliştirme odaklı kalmasını sağlıyor. Özel sermaye, çetin altyapı yarışını taşıyabilecek mi? Yoksa finansal baskılar, gelecekte fikirlerini değiştirmeye zorlayacak mı? #OpenAI #AI #IPO