App mağazalardan para kazanılan karanlık pazar: 705 milyon indirme
17 Temmuz 2026'da San Francisco Şehir Savcısı David Chiu, Apple ve Google'a yasal bildirimde bulundu: App Store'dan 8, Play Store'dan 5 olmak üzere toplam 13 uygulamayı derhal kaldırın. Bu uygulamaların ortak özelliği, kamuya açık herhangi bir fotoğraftan yapay zeka kullanarak rıza dışı çıplak görüntüler üretebildikleri. Chiu'nun açıklamasına göre, her iki şirket de bu uygulamalardan uygulama içi ödemelerle "milyonlarca dolar" gelir elde etmiş durumda.
Hikayenin dikkat çekici yanı zamanlama değil. Tech Transparency Project adlı sivil gözetim organizasyonu, Ocak 2025'te ilk raporunu yayınladığında bu tür uygulamaların 705 milyondan fazla indirildiğini ve 117 milyon dolar gelir oluşturduğunu ortaya koymuştu. Nisan 2025'te ikinci rapor geldi. Şirketler neredeyse bir yıl boyunca uyarıldılar, fakat savcılık ifadesine göre bu uygulamaları barındırmaya ve bunlardan para kazanmaya devam ettiler.
Bu rakamlar yalnızca bir teknik politika ihlalini değil, ciddi bir insan hakları ve çocuk güvenliği sorununu işaret ediyor. Cornell ve Georgetown Üniversitesi'nin Mayıs 2026'da yayınlanan ön baskı çalışması, her iki app mağazada toplam 420 yüz değiştirme uygulaması tespit etti. Araştırmacılar bunlardan 155'ini test ettiklerinde, yüzde 70'inin herhangi bir güvenlik önlemi olmadan nude görüntüler oluşturabildiğini buldu.
Yüz değiştirme uygulamalarının teknik kaçış stratejisi
Bu uygulamalar app mağaza denetimine basit ama etkili bir yöntemle yanıt veriyor: pazarlama açıklamaları ile gerçek işlevselliği birbirinden ayırmak. Mağaza sayfalarında kendilerini "yüz değiştirme" veya "AI yüz filtresi" olarak tanımlıyorlar. Uygulamanın ekran görüntüleri eğlenceli, masum filtre örnekleriyle dolu. Fakat indirme sonrasında, uygulama içinde "undress" veya benzeri bir işlev açılıyor.
Wired'ın aktardığına göre birçok nudifikasyon uygulaması bu yöntemle içerik denetimine yakalanmaktan kaçınıyor. Apple ve Google'ın otomatik tarama sistemleri, mağaza sayfasını ve bildirilen işlevselliği denetliyor; uygulamanın indirme sonrası yüklediği içerik paketlerini veya API bağlantılarını tam olarak takip edemiyorlar.
Geliştiriciler ayrıca ara güncelleme sürümleriyle politika değişikliklerinden kaçabiliyor. Bir uygulama onaylandıktan sonra küçük bir güncelleme ile problematik özellikler eklendiğinde, güncelleme süreci genelde daha hafif bir denetim görüyor. Sonuç: bir uygulama App Store veya Play Store'da aylar boyunca kalabiliyor ve mağaza sayfası ile gerçek kullanımı arasındaki fark giderek açılıyor.
Apple ve Google'ın yanıtları bağımsız verilerle çelişkili
Apple, Chiu'nun mektubuna yanıt olarak 3 uygulamayı kaldırdığını ve geliştirici hesaplarını sonlandırdığını açıkladı. Apple'ın ifadesine göre, deepfake uygulamaları App Review Guidelines'ı ihlal ediyor ve şirket bunları proaktif olarak reddedip kaldırıyor. Google ise hedefindeki 5 uygulamanın tamamını askıya aldığını belirtti; ayrıca bunların ötesinde "yüzlerce" uygulamayı daha kaldırdığını ve yapay zeka güvenliği için geliştirilmiş inceleme hattı kurduğunu ekledi.
Fakat Tech Transparency Project'in Ocak 2025 raporunda yaklaşık 100 nudifikasyon uygulaması tespit edilmişti; toplam indirme sayısı 480 milyon civarında ve 120 milyon dolarlık tahmini gelir söz konusuydu. Mayıs 2026'da Cornell ve Georgetown araştırması bu rakamı 420 uygulamaya çıkardı. Şirketlerin bildirdiği kaldırma sayıları toplam tespit edilen uygulama sayısının altında kalıyor. Ayrıca bir uygulama kaldırıldığında, aynı geliştirici yeni bir hesap açıp farklı bir isimle benzer uygulamayı yeniden yükleyebiliyor. Savcılık mektupları bu döngüyü kırmak için geliştirici hesaplarının tamamen sonlandırılmasını talep ediyor, fakat bu önlem daha önceki aylarda uygulanmadı.
Kurbanlar ve sorumluluk: California'nın 2025 yasası
California, 2025'te iki önemli yasa yürürlüğe koydu. Birincisi, rıza dışı deepfake pornografi oluşturmayı veya "bilerek kolaylaştırmayı" suç saydı. İkincisi, kurbanların üçüncü taraf kolaylaştırıcılara karşı hukuki takip açmasına izin verdi. Chiu'nun bildirimine göre, bu yasa çerçevesinde Apple ve Google'ın bu tür uygulamaları barındırmaya ve bunlardan komisyon almaya devam etmesi "bilerek kolaylaştırma" tanımına girebilir.
Bu yasal değişim, kurbanların elini güçlendiriyor. Artık yalnızca doğrudan görüntüyü oluşturan kişi değil, uygulamayı sağlayan geliştirici ve uygulamayı barındırarak gelir elde eden platform da sorumlu tutulabiliyor. Fakat hukuki süreçler uzun ve maliyetli. Bir çocuğun veya yetişkinin görüntüsü onlarca platformda paylaşıldığında, hangi şirketin hangi aşamada sorumlu olduğunu belirlemek karmaşık.
Wired'ın aktardığı veriler, en az 90 okulda reşit olmayan kişilerin deepfake cinsel istismar görüntülerinin oluşturulduğunu belgeliyor. Bazı kurbanların intihar düşüncesi yaşadığı kaydedilmiş. Bu noktada app mağaza politikası yalnızca ticari bir karar değil, çocuk güvenliği ve toplum sağlığı meselesidir.
Türkiye'deki hukuki çerçeve ve uygulama açığı
California'nın yasaları ABD sınırları içinde geçerli, ancak app mağazaları global çalışıyor. Türkiye'deki bir kullanıcı, App Store veya Play Store üzerinden aynı uygulamaları indirebiliyor. Apple ve Google, bölgesel içerik politikaları uygulayabilir, fakat bu uygulamalar genellikle "yüz değiştirme" kategorisinde göründüğü için yerel filtrelere takılmıyor.
Türkiye'de deepfake pornografi oluşturmak ve paylaşmak, 5237 sayılı Türk Ceza Kanunu'nun cinsel taciz, kişilik haklarına saldırı ve çocuğun cinsel istismarı maddelerine göre suç. Fakat uygulamanın indirilmesi veya kullanılması aşamasında otomatik bir engelleme yok. Google Play Protect veya Apple'ın güvenlik taraması yalnızca kötü amaçlı yazılımlara odaklanıyor; içerik üreten bir uygulamanın kullanım amacını tespit edemiyor.
Kullanıcılar bu uygulamaları indirdikten sonra, hedef olan kişiye zarar verme riski tamamen kullanıcının iradesine kalıyor. Platform, içerik oluştuğu anda müdahale edemiyor çünkü görüntü oluşturma cihaz üzerinde veya bir üçüncü taraf sunucuda gerçekleşiyor. Bu da şu soruyu öne çıkarıyor: bir app mağaza, içeriği önceden engellemek yerine zararı minimize etmek için hangi araçları sağlamalı?
Deepfake teknolojisi ve meşru kullanımı
Deepfake, yapay zeka kullanarak bir kişinin yüzünü veya sesini başka bir görüntüye yerleştirme teknolojisi. Temel olarak, bir sinir ağı kaynak ve hedef görüntüleri öğrenir, sonra hedef kişinin yüz ifadesini, ışık koşullarını ve açı verilerini kaynak görüntüye transfer eder.
Meşru kullanım senaryoları var: film ve dizi prodüksiyonlarında dublör veya post-prodüksiyon düzenlemeleri, eğitim videoları, dijital sanat projeleri, satire ve eğlence içerikleri. Problem, teknolojinin suistimali. Bir yüz değiştirme uygulaması, eğlence amacıyla arkadaş fotoğraflarını film sahnelerine eklemek için kullanılabilir; aynı teknoloji, rıza dışı cinsel içerik oluşturmak için de kullanılabilir.
Kritik ayrım şu: meşru uygulamalar genellikle rıza kontrolü, filigran ekleme, yaş doğrulaması ve içerik rapor etme mekanizmaları içerir. Cornell/Georgetown çalışmasının yüzde 70 bulgusu, test edilen uygulamaların bu kontrolleri içermediğini gösteriyor. Yani teknik olarak deepfake yapabilmek sorun değil; sorun, hiçbir güvenlik önlemi olmadan herkesin kullanımına sunulması.
App mağaza denetim sisteminin yapısal sorunları
Apple ve Google'ın içerik denetim süreçleri birkaç katmandan oluşuyor: otomatik statik analiz, insan inceleyici onayı, kullanıcı şikayetleri ve periyodik denetimler. Fakat bu sistem büyük hacimde çalıştığında çatlaklar oluşuyor.
Otomatik statik analiz, uygulamanın kodunu ve bildirilen API kullanımını tarıyor. Eğer bir uygulama resmi açıklamasında "nude generation" yazmıyorsa ve kodda açıkça işaretlenmiş bir işlev yoksa, tarama geçilebiliyor. İnsan inceleyici, birkaç dakika içinde uygulamanın temel akışını test ediyor; derin menülerde gizlenmiş bir özelliği göremeyebilir.
Kullanıcı şikayetleri ise reaktif. Bir uygulama binlerce kez indirilip kullanıldıktan sonra, bir kurban veya gözlemci şikayet ederse inceleme başlıyor. Bu süreçte uygulamanın mağazada kalma süresi aylar bulabiliyor. Ayrıca bir uygulama mağazada kaldıkça, uygulama içi satın alımlardan komisyon geliri oluşuyor. Chiu'nun tahminleri Apple ve Google'ın milyonlarca dolar kazandığını gösteriyor. Bu durum, denetim sistemine yeterli kaynak ayrılmadığında veya öncelik verilmediğinde, bu tür uygulamaların uzun süre hayatta kalabileceğini gösteriyor.
Savcılık kararının olası etkisi
Chiu'nun yasal kararı üç bakımdan önemli. Birincisi, California'nın 2025 yasasının ilk kez uygulanması olması ve uygulamaları barındıran platformları üçüncü taraf sorumlularına dönüştürmesi. İkincisi, diğer eyaletlerin ve ülkelerin benzer aksiyonlar alması için bir emsal oluşturması. Üçüncüsü, geliştirici hesaplarının tamamen sonlandırılması talebinin, tek başına uygulamaların kaldırılmasından daha güçlü bir caydırıcı olabileceğini göstermesi.
Fakat kararın etkisi platformların ve geliştiricilerin yanıtıyla ölçülecek. Apple ve Google zaten itiraz edebilir veya uygulamaları kaldırdıklarini iddia edip denetim kapsamını daraltabilir. Geliştiriciler, yeni hesaplarla benzer uygulamaları yeniden yükleyebilir. Gerçek değişim, app mağazaların içerik denetim sistemini köklü olarak yeniden yapılandırmasını gerektirir: genAI uygulamalarının hedefini tespit etmek için izolasyonlu test ortamları, hedef kişinin rızasını doğrulayan mekanizmalar ve bu koşulları karşılamayan uygulamaların tamamen yasaklanması. Bu adımlar maliyetli ve operasyonel olarak karmaşık, fakat Chiu'nun kararı bunun hukuki ve sosyal maliyetinin daha yüksek olduğunu gösteriyor.
