Yapay zekânın kitlelere ulaşması, ne kadar içerik üretebileceğine değil, toplumun üretilen içeriklere güvenip güvenmediğine bağlıdır.

Yazı yazarı, kaynak: ME News



Kısa Özet

• Merkezi İnternet İnceleme Ofisi, "Temiz ve Açık: AI Uygulamalarındaki Kaosu Düzeltme" kampanyasının ikinci aşamasını başlatmış olup, AI tarafından oluşturulan sahte bilgiler, alçakgönüllü ve şiddet içeren içerikler, başkalarının kimliklerinin sahtelenmesi ve çocuk haklarının ihlali gibi sorunlarla mücadele etmektedir. Şu ana kadar toplamda 5,61 milyondan fazla yasal dışı ve kurallara aykırı bilgi temizlenmiş, 49.000'den fazla hesap cezalandırılmış ve 2.400'den fazla yasal dışı web sitesi ve uygulama ele geçirilmiştir.
• DouBao, YuanBao, QianWen, Wenxin YiYan gibi AI platformları, dil verisi denetimi, model güvenlik filtrelemesi ve ürettiği içerik etiketleme mekanizmalarını güçlendiriyor; temel hedefleri, AI yeteneklerini sınırlamak değil, teknolojinin kötüye kullanım riskini azaltmak.
• Yapay zeka yönetimi, "ihlal edici içerikleri silme" yerine "içerik üretme sürecini kontrol etme" yönüne doğru dönüşüyor; model eğitimi, veri kaynakları, üretme aşaması ve yayılma zinciri düzenleyici odak noktaları haline geliyor.
• Üretken AI'nın ticari rekabeti, gelecekte sadece model parametreleri ve ürün deneyimiyle değil, aynı zamanda güvenlik yetenekleri, uyumluluk yetenekleri ve uzun vadeli güvenle de rekabet edecektir.
• Yapay zekânın kitlelere ulaşması, ne kadar içerik üretebileceğine değil, toplumun üretilen içeriklere güvenip güvenmediğine bağlıdır.

Yapay zekânın gelişim hızı, halkın teknoloji sınırları hakkındaki algısını sürekli yeniden tanımlıyor.

Birkaç yıl önce, insanlar AI'yi daha çok model parametreleri, hesaplama gücü, cevap kalitesi ve ticari senaryolar açısından tartıştı. Daha büyük bir modele sahip olan, daha güçlü bir çıkarım yeteneğine sahip olan, geleceği kazanacak gibi görünüyordu.

Ancak generatif AI'nın büyük ölçekli uygulama aşamasına girdikten sonra, daha gerçekçi bir sorun ortaya çıkmaya başladı: Eğer AI, birkaç saniye içinde bir metin, bir resim, bir ses veya tamamen gerçekçiymiş gibi görünen bir bilgi seti oluşturabiliyorsa, bu içeriklerin yalan haber üretme, kamuoyunu manipüle etme ve hakları ihlal etme yeni bir araç haline gelmesini kim garanti edecek?

Bu uzak bir sorun değil.

Merkezi İnternet İnceleme Ofisi, yakın zamanda bu gerçek risklere yönelik olarak “Temiz ve Düzenli · AI Uygulamalarındaki Kaosu Düzeltme” kampanyasının ikinci aşamasını başlattı. Bu kampanya, AI kullanarak sahte bilgiler üretip yayınlamayı, şiddet içeren ve düşük kaliteli içerikleri yaymayı, başkalarının kimliğini taklit etmeyi ve çocuklara yönelik hak ihlallerini gibi önemli sorunları hedef alıyor. Şu ana kadar kampanya kapsamında 5,61 milyondan fazla yasal dışı ve kurallara aykırı bilgi temizlendi, 49.000'den fazla hesap cezalandırıldı ve 2.400'den fazla yasal dışı web sitesi ve uygulama ele geçirildi.

Bu rakamların arkasında yer alan, AI teknolojisinin kendisinde bir sorun değil, hızlı gelişen bir endüstrinin olgunlaşma aşamasına girdikten sonra karşılaştığı yönetim konusudur.

Toplumun çalışma biçimini değiştiren her teknoloji, sadece verimlilik artışı yönüne sahip olmaz.

İnternet bir zamanlar bilginin serbest akışını getirdi, aynı zamanda sahte bilgi yayılmasını da getirdi; mobil ödeme finansal deneyimi değiştirdi, aynı zamanda yeni dolandırıcılık modellerini de ortaya çıkardı; kısa videolar içerik üretiminin engellerini düşürdü, aynı zamanda trafik öncelikli bir rekabet ortamı yarattı.

AI de aynı şekilde.

Üretim verimliliğini artırabilir, aynı zamanda düşük maliyetli yasa dışı faaliyetleri de büyültebilir.

Geçmişte bir sahte makale veya sahte bir video üretmek için insan kaynaklarının büyük miktarında zaman harcanıyordu. Ancak bugün, AI içerik üretimi engelini düşürerek, sıradan kullanıcıların neredeyse profesyonel ekiplerle eşdeğer üretim kapasitesine sahip olmalarını sağlıyor. Uygun bir yönetim mekanizması olmadan, teknolojinin getirdiği avantajlar, az sayıda kişinin kaos yaratmak için kullanılabilir.

Bu nedenle AI yönetimi, yeniliğe fren değil, hızla gelişen yolda güvenlik sistemi ekler.

Birçok kişi şu soruyu sormakta: AI, mümkün olduğunca açık olmamalı mı? Peki neden şimdi giderek daha fazla AI ürünü içerik üretimiyle sınırlamaya başlıyor?

Bu sorunun özü, yapay zeka ürünlerinin sorumluluk sınırını nasıl anlayacağınızdır.

Geleneksel yazılımlar genellikle yalnızca araç sağlar, ancak üretken AI basit bir araç değildir. İçerik üretme sürecine katılır ve hatta kullanıcı algısını doğrudan etkiler.

Kullanıcılar AI'ya soru sorduğunda, modelin ürettiği içerik yatırım kararlarını, sağlık kararlarını, eğitim öğrenimini ve hatta kamu olayları algısını etkileyebilir. Bu nedenle AI platformları yalnızca "üretilebilir mi" değil, aynı zamanda "ne üretilecek", "neden üretilecek" ve "üretimden sonra ne tür etkiler yaratacak" gibi soruları da dikkate almalıdır.

DouBao, YuanBao, QianWen, Wenxin Yiyan gibi platformlar, içerik yönetimi konusunda daha sıkı önlemler alarak yeni bir AI ürün güvenliği sistemi kuruyor. İnternet Bilgi Ofisi'nin açıklamasına göre, ilgili platformlar orijinal veri setlerini dikkatle incelemekte, ihlal edici içerikleri filtrelemekte ve AI tarafından üretilen sentetik içerikler için etiketleme gerekliliklerini güçlendirmektedir. Bu sayede yasa dışı ve düzen dışı bilginin üretimi ve yayılması riski kaynakta azaltılmaktadır. (Ulusal Pazar Düzenleme İdaresi)

Bu, AI yönetiminin artık geleneksel internet dönemi için "sonradan ele alma" olmadığını anlamına gelir.

Geçmişte, platform, ihlal içeriklerine karşı daha çok keşfetme, silme ve yasaklama yöntemlerini uyguladı.

Ancak AI çağı farklı.

Eğer sorun üretme aşamasında ortaya çıkarsa, sadece yayılan içeriği silmek yeterli değildir. Çünkü AI, aynı ihlal içeriğini farklı bir ifadeyle tekrar tekrar yeni varyasyonlar üretebilir.

Bu nedenle yönetim öne alınmalıdır.

Eğitim verilerinden başlayarak model yetenek kontrolüne ve kullanıcı tarafından oluşturulan içerik denetimine kadar tam bir zincir oluşturun.

Kısaca, geleceğin harika AI ürünleri, sorulara daha doğru cevap vermekten ziyade, hangi sorulara cevap veremeyeceğini, hangi içerikleri oluşturamayacağını ve hangi senaryolarda kullanıcıya riskleri hatırlatması gerektiğini bilmektedir.

Bu, AI güvenlik yeteneklerinin bir ürünün rekabet avantajı haline gelmesinin nedenidir.

Ancak AI yönetimi, basitçe bir "üretimi yasakla" duvarı kurmak değildir.

Aşırı kısıtlamalarla AI ürünlerinin değeri kaybedebilir.

Yetersiz sınırlama, risk yaratabilir.

Bu, sınırlar üzerinde uzun bir oyun.

Örneğin, bir kullanıcı, savaş, suç, çatışma gibi unsurları içeren bir roman yazmak için AI'nın yardımını istiyorsa, bu bir ihlal mi?

Bir araştırmacı, AI'nın siber güvenlik açıklarını kötü niyetli saldırılarla nasıl ayırt edeceğini istiyor.

Bir tarih sever, AI'nın klasik eserleri uyarlamasını istiyor; bu, mantıklı bir yaratım mı, yoksa alçak gönüllü bir alay mı?

Bu sorunlar, AI yönetiminin basit anahtar kelime filtrelemesine bağlı olamayacağını göstermektedir.

Gerçekten etkili yönetim, bağlamı anlamayı gerektirir.

Bu, platformun çok modlu tanıma yeteneklerini sürekli güçlendirmesinin ve yüz kütüğünü, ses kalıbı kütüğünü ve ihlal örneklerini dinamik olarak genişletmesinin nedenidir. Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban, Taobao gibi platformlar, AI içeriği tanıma ve işleme yeteneklerini teknolojik yöntemlerle artırıyor ve şu ana kadar 46 adet ilgili yönetim duyurusu yayınladı. (Ulusal Pazar Düzenleme İdaresi)

Gelecekteki AI güvenlik rekabeti, muhtemelen otomatik sürüş alanına benzer olacaktır.

Gerçekten ileri düzey bir sistem, otomobillerin tamamen hareket etmesini yasaklamak değil, karmaşık ortamlarda otomobillerin güvenli şekilde hareket etmesine yardımcı olmaktır.

AI de öyle.

Olgun bir AI, hiçbir şey yapamayan bir sistem değil, açık yetenekler ve risk kontrolü arasında denge kurandır.

Bu kampanyada açıklanan bazı vaka örnekleri, AI'nın kötüye kullanımının yeni formlarını ortaya koymaktadır.

Klasik eserlerin düşük kaliteli AI tabanlı uyarlamalarından biri tipik bir sorundur.

Geçmişte, ağ içeriği üretimi kötü kalitede olsa da, üretim maliyetleri ölçeklenmeyi sınırlıyordu.

Yapay zeka ortaya çıktıktan sonra toplu üretimi mümkün hale getirdi.

Bazı hesaplar, AI kullanarak Klasik eserler olan Üç Krallık ve Batı Seyahati gibi eserleri “modifiye ederek” karakter tanımlarını değiştirip tuhaf senaryolar üreterek trafiği çekiyor. Bu tür içerikler sadece eğlence gibi görünse de, uzun vadeli ve yoğun yayılımı, halk için kültürel içeriklerin anlaşılmasını etkileyebilir ve kaliteli içerik ekosistemini tüketebilir.

Diğer bir sorun, AI'nın sahte bilgiler üretmesidir.

Geçmişte sahte bir resim veya sahte bir video oluşturmak için yüksek bir teknik engel vardı.

Şimdi, üreteç AI eşikleri düşürüyor.

Yanlış afet sahneleri, yanlış sosyal konular ve AI dijital insanları kullanarak yapılan pazarlama dolandırıcılıkları, kamuoyunun bilgi eksikliğini kullanarak etki yaratabilir. İnternet Bilgi İdaresi'nin bu bildiriminde yer alan örnekler arasında, AI ile oluşturulan sahte afet görüntüleri, sosyal konulara dair sahte bilgilerin yaratılması ve dijital insanlar aracılığıyla yanlış reklam verilmesi gibi davranışlar yer almaktadır.

Daha da önemlisi, AI yüz ve ses değiştirme.

Ses ve yüz, insanların kimliği belirlemesinde önemli temellerdir.

Yapay zekâ bir kişinin sesini, ifadelerini hatta davranış alışkanlıklarını simüle edebildiğinde, kimlik güven sistemi yeni bir zorlukla karşı karşıya kalıyor.

Bu, sadece kamuoyu figürlerini değil, sıradan kullanıcıları da kapsar.

Bugün, bir kişinin fotoğrafı ve ses kayıtları bile kötüye kullanılabilen veri kaynakları olabilir.

Bu nedenle, AI çağındaki veri koruma, bilgi sızıntısını önlemekle kalmaz, aynı zamanda bireysel kimliğin dijital olarak kopyalanmasını da önler.

Geçtiğimiz yıllarda Çin AI endüstrisi hızla gelişti.

Büyük modellerin geliştirilmesinden akıllı asistanlara, ardından ofis, eğitim, e-ticaret, arama gibi uygulama alanlarına kadar, AI teknoloji sergileme aşamasından gerçek uygulama aşamasına geçiyor.

Ancak kullanıcılarla daha yakın bir temas kurulほど, güvenlik sorunları daha önemlidir.

Bir şirket, modelin ara sıra yanlış cevap vermesini kabul edebilir, ancak modelin sürekli sahte bilgi üretmesini kabul edemez.

Bir kullanıcı, AI'nın yeteneklerinin sınırlı olduğunu kabul edebilir, ancak AI'nın dolandırıcılık yapmaya yardımcı olduğunu kabul etmek zordur.

Bu nedenle, gelecekteki AI endüstrisi rekabeti sadece teknoloji rekabeti olmayacak.

Parametre boyutu elbette önemlidir, algoritma yeteneği elbette önemlidir, ancak güven de aynı derecede önemlidir.

Neden finans sektörü uyumu çok önemsiyor?

Finansal ürünler para bağlar.

Neden sağlık sektörü güvenlikten çok önem veriyor?

Çünkü tıbbi kararlar yaşamı etkiler.

Ancak AI, bilgi, veri ve kararları giderek birbirine bağlıyor.

Aynı zamanda güven temeli kurması gerekir.

Bu bakış açısıyla, Çin İnternet Bilgi Ofisi'nin bu düzenlemesi, AI gelişimine yönelik değil, AI endüstrisini daha olgun bir gelişme aşamasına yönlendirmektir. Düzenlemeler net sınırlar belirler, platformlar kapasitelerini artırır, kullanıcılar bilinçlerini yükseltir ve nihayetinde daha sağlıklı bir ekosistem oluşur.

Teknolojik gelişimin tarihi, bir endüstrinin gerçekten olgunlaşmasının, ne kadar mucize yaratabildiği değil, ne kadar sorunu çözebildiği olduğuna sürekli olarak kanıt sunar.

Yapay zeka yaratıcılığını kanıtladı.

İnsanların yazmasını, programlamasını ve öğrenmesini sağlar ve işletmelerin verimliliğini artırır.

Ancak bir sonraki aşamada, AI'nın başka bir şeyi kanıtlaması gerekiyor: güvenilir olup olmadığı.

DouBao, YuanBao, QianWen, WenXin YiYan gibi platformlar, yasak içerik kısıtlamalarını güçlendirerek temelde bir soruya cevap veriyor:

Yapay zekânın giderek artan yaratıcı yeteneklere sahip olmasının, bu yeteneklere uygun bir sorumluluk bilinci de kazandırdığı düşünülebilir mi?

Cevap, sadece birkaç AI ürünün gelişim yönünü değil, tüm sektörün uzun vadeli istikrarlı bir gelişim döngüsüne girebilmesini de belirliyor.

Yapay zekânın geleceği, daha fazla içerik oluşturmaya odaklanan sistemlere ait olmayacak, yaratıcılık, güvenlik ve toplumsal değer arasında denge kurabilen sistemlere ait olacak.

Gerçekten büyük teknolojiler, her şeyi yapabildiği için değil, neyin yapılamayacağını ve neden yapılamayacağını bildiği için büyüktür.

1. Merkezi İnternet Güvenliği ve Bilgi İletişimi Komisyonu: "Temiz ve Düzgün: AI Uygulamalarındaki Kaosu Düzenleme" Harekâtının İkinci Aşamasını Derinleştirme, 2026年9月2日.
2. Merkezi İnternet Güvenliği ve Bilgi İletişimi Komisyonu: “Temiz ve AI Uygulamalarındaki Kaosu Düzeltme” Harekâtı, 30 Nisan 2026.
3. Üretken Yapay Zeka Hizmetleri Yönetimi Geçici Yönergesi, Ulusal İnternet Bilgi Ofisi ve diğer bakanlıklar, 2023
4. Yapay Zeka ile Oluşturulan Sentetik İçerik Etiketleme Yönergesi, Ulusal İnternet Bilgi Ofisi ve diğer kurumlar, 2025
5. Russell, Stuart & Norvig, Peter. Yapay Zeka: Modern Bir Yaklaşım. Pearson.
6. Shneiderman, Ben. İnsan Odaklı Yapay Zeka. Oxford University Press.