Avrupa Birliği, X platformuna entegre edilen yapay zeka aracı Grok sayesinde oluşturulan cinsel içerikli sahte görüntülerin (deepfake) yayılımını önlemek için adımlar atmaya başladı. Ancak bu tür içerikler yalnızca Grok ile mi hazırlanmaktadır? Kesinlikle hayır!
Uygulama Satın Aldım
Pazar yerlerinde birçok deepfake uygulaması mevcut. Bu uygulamaların büyük bir kısmı, sosyal medya platformları aracılığıyla tanıtım yapıyor. Reklamlarda fotoğrafların ve videoların nasıl düzenlendiği, sonuçların ne kadar etkileyici olduğu detaylı bir şekilde sunuluyor. Uygulamayı indirdiğinizde, karşınıza 4 farklı abonelik seçeneği çıkıyor; yıllık, aylık, haftalık ve ücretsiz seçenekler mevcut. Ücretsiz kullanıma geçerseniz, oldukça sınırlı özelliklere erişim sağlayacaksınız.
Kıyafet ve Ortam Değişimi
Diğer abonelik seçeneklerini tercih ettiğinizde ise tüm özelliklerden yararlanma şansına sahip oluyorsunuz. Eğlenceli deepfake seçeneklerinin yanı sıra, asıl tehlike uygulamanın diğer bölümlerinde ortaya çıkmakta. 'Hug' ve 'French kiss' başlıkları altında, istediğiniz fotoğraflarla kendi deepfake videolarınızı oluşturabilirsiniz. Uygulama, eğer fotoğraf uygun ise kişilerin kıyafetlerini ve bulundukları ortamı bile değiştirmenize olanak tanıyor.
Bazı deepfake uygulamaları, yüklediğiniz fotoğraflarla belirli senaryolar yazarak oldukça etkileyici videolar oluşturmanıza imkan tanıyor. Bazı aboneliklerde kota sistemi mevcut; ürettiğiniz deepfake içerik türüne göre hesabınızdan kota düşülmekte. Eğer kotanız dolarsa, yeniden satın alma yapmak zorunda kalırsınız. Elde ettiğiniz deepfake ürününü, 'yapay zeka' etiketi olmadan cep telefonunuza indirip, istediğiniz platformda paylaşabilirsiniz.
Yaş Sınırı Uyarısı Yok
Abonelik fiyatları, uygulamanın kalitesine göre değişiklik göstermekte. Yıllık abonelikler 2-3 bin TL civarındayken, haftalık aboneliklerde 150-200 TL gibi düşük bir ücret karşılığında sınırlı erişim elde ediyorsunuz. Deepfake videoları için yüklenen fotoğraflarla ilgili herhangi bir sınırlama mevcut değil; ünlü ya da sıradan bir kişinin fotoğrafını sisteme yükleyip, deepfake videosunu oluşturma imkanınız var. Uygulamaların çoğunda fotoğraflarla ilgili bir yaş sınırı uyarısı bulunmamakta.
Uzmanlar Ne Diyor
Çocuklar Hedefte
Bilişim ve teknoloji hukukçusu Avukat Yaren Erdem: “Maalesef, bu uygulamaları kullananların ilk hedefi çocuklar oluyor. Özellikle erkek çocukların hedef alındığı video ve fotoğraflarla ilgili çok sayıda şikayet alıyoruz. Yapay zeka uygulamaları oldukça gelişmiş; bir fotoğrafın gerçekte mi yoksa yapay zeka ile mi hazırlandığını anlamak çok zorlaştı. Bu durum daha çok çocuklu aileleri tedirgin ediyor. Elimizde 13 yaşında bir kız çocuğuna ait bir dosya var; kendisi yapay zeka kullanılarak hazırlanmış videolarla mağdur olmuş. Aile perişan halde, hukuki destek vermekteyiz, ancak yasal mevzuat çoğu noktada yetersiz kalıyor. Mağduriyetler ilkokul seviyesine inmiş durumda.”
Mağduriyet Artabilir
E-ticaret ve web3 eğitmeni Behçet Ülker: “Kötü niyetli kişilerin yapay zeka uygulamalarına kolayca ulaşabilmesi büyük bir tehlike oluşturmakta. Mevcut yasal altyapımız caydırıcı değil. Fotoğraf ve videoların profesyonel bir şekilde hızlıca değiştirilmesi artık çok kolay. Bunun için kullanıma sunulan ucuz uygulamalar bulunmakta. Oluşturulan içerikler o kadar gerçekçidir ki, hangisinin gerçek hangisinin sahte olduğunu anlamakta zorlanıyoruz. Olumsuzlukların önüne geçebilmek için caydırıcı yasal düzenlemelere ihtiyaç var. Aksi takdirde yapay zeka uygulamaları geliştikçe daha fazla mağduriyet meydana gelecektir.”
İspanya Örneği
Siber güvenlik uzmanı Muharrem Baki: “Deepfake uygulamalarına erişim artık son kullanıcıya kadar inmiş durumda. Her tür fotoğraf yaş sınırı olmaksızın bu sistemlere yüklenebiliyor. Taciz, şantaj ve zorbalık ile ilintili korkunç bir süreç ortaya çıkıyor. Artık herkes yapay zeka üretebilir hale geldi. İspanya ve Danimarka, yeni bir yasa tasarısıyla yapay zeka ile görüntü ve ses üretilmesine sınır getirdi, yaş sınırı koydu ve cezaları caydırıcı hale getirdi. Bizim yasalarımızda ise deepfake suç kategorisinde değil; bu tür suçlar özel hayatın gizliliği kapsamında değerlendiriliyor. Bu durumu daha ayrıntılı ve nitelikli hale getirmek lazım.”
