Bu kişiler arasında, yapay zeka kullanılarak yüzleri pornografik materyallerin üzerine yerleştirilen ve isimleri açıklanmayan kadın oyuncular, TV yıldızları, müzisyenler ve YouTuber’lar bulunmaktadır.

BİRLEŞİK KRALLIKTA BU DURUM SUÇ SAYILIYOR!

Soruşturma, beş sitenin üç ay içinde 100 milyon görüntülenme aldığını ortaya koydu.

Kurbanlar arasında olduğu tespit edilen Channel 4 Haber sunucusu Cathy Newman şunları söyledi: “Bu bir ihlal gibi geliyor. Birilerinin bunu bir araya getirmiş olması, benim onları görememem ve onların benim bu hayali versiyonumu, bu sahte versiyonumu görebilmeleri gerçekten çok kötü hissettiriyor.”

31 Ocak’ta yürürlüğe giren Çevrimiçi Güvenlik Yasası uyarınca, bu tür görüntülerin izinsiz olarak paylaşılması Birleşik Krallık’ta yasa dışıdır, ancak içeriğin oluşturulması yasa dışı değildir. Yasa, yapay zeka ve uygulamalar tarafından yaratılan deepfake pornografinin yaygınlaşmasına tepki olarak kabul edildi.

TEHLİKE BÜYÜYOR: VİDEO YÜKLEMELERİ SAYISI KATLANARAK ARTTI

Araştırmacılar 2016 yılında internette bir deepfake pornografi videosu tespit etti. 2023’ün ilk dörtte üçünde, en çok kullanılan 40 deepfake pornografi sitesine 143.733 yeni deepfake porno videosu yüklendi – önceki tüm yılların toplamından daha fazla.

Merseyside’da yaşayan 31 yaşındaki Sophie Parrish, yasanın yürürlüğe girmesinden önce internette kendisine ait uydurma çıplak görüntülerin yayınlandığını fark etti.

Channel 4 News’e şunları söyledi: “Bu çok şiddet içeriyor, çok aşağılayıcı. Sanki kadınlar hiçbir şey ifade etmiyor, biz değersiziz, sadece bir et parçasıyız. Erkekler istediklerini yapabilirler. Bundan önce herkese güvenirdim.”

Çok sayıda gecikmeyle karşılaşan Çevrimiçi Güvenlik Yasası’nın yayıncılık izleme kuruluşu Ofcom tarafından nasıl uygulanacağı ve yürürlüğe konulacağı konusunda bir istişare süreci yürütülüyor.

“MÜCADELE İÇİN HIZLI HAREKET ETMEK ZORUNDA KALACAĞIZ”

Bir Ofcom sözcüsü şunları söyledi: “Yasadışı deepfake materyaller son derece rahatsız edici ve zarar vericidir. Çevrimiçi Güvenlik Yasası kapsamında firmalar, hizmetlerinde dolaşan bu tür içeriklerin riskini değerlendirmek, ortaya çıkmasını engellemek için adımlar atmak ve farkına vardıklarında bunları kaldırmak için hızlı hareket etmek zorunda olacaklar.

“Kurallar henüz yürürlüğe girmemiş olsa da, şirketleri bu önlemleri uygulamaya ve kullanıcılarını şimdi korumaya teşvik ediyoruz.”

“İNSANLARIN KENDİLERİNİ KORUMALARINA YARDIMCI OLMALIYIZ”

Bir Google sözcüsü şunları söyledi: “Bu içeriğin ne kadar üzücü olabileceğini anlıyoruz ve etkilenen kişilere yardımcı olmak için mevcut korumalarımızı geliştirmeye kararlıyız.

“Politikalarımız uyarınca, insanlar bu içeriğe sahip olan ve benzerliklerini içeren sayfaların aramadan kaldırılmasını sağlayabilir.

Bu, arama motorları için teknik bir zorluk olsa da, Google aramada aktif olarak ek önlemler geliştiriyoruz – insanların kendilerini geniş ölçekte korumalarına yardımcı olacak araçların yanı sıra bu içeriği genel olarak ele almak için sıralama iyileştirmeleri de dahil.”

META, BAZI HESAPLARIN KALDIRILDIĞINI AÇIKLADI

Facebook ve Instagram’ın sahibi olan Meta’dan Ryan Daniels şunları söyledi: “Meta, çocuk çıplaklığını, çocukları cinselleştiren içerikleri ve yapay zeka tarafından üretilen rıza dışı çıplak görüntüler sunan hizmetleri kesinlikle yasaklamaktadır.

Bu uygulama çeşitli uygulama mağazalarında yaygın olarak bulunmaya devam ederken, bu reklamları ve arkasındaki hesapları kaldırdık.”

Seçimler, önümüzdeki birkaç yıl ve sonrasında jeopolitiğin siyasi manzarasını ve yönünü değiştirme potansiyeline sahip.

Gerçek insanların sahte görüntüleri, ses ve video klipleri yaygınlaştıkça yapay zeka destekli bir dezenformasyon ihtimali giderek artan bir endişeye neden oluyor.

SAHTE HABERLER KORKUTUYOR

Sahte haberler, 2016’da Beyaz Saray yarışı sırasında büyük bir hikaye haline geldiğinden beri seçim ile ilgili manşetlere hakim oldu. Bundan sekiz yıl sonra, tartışmasız daha büyük bir tehdit var; uzmanları bile kandırabilecek dezenformasyon ve derin sahteciliklerin bir kombinasyonu.

Arjantin’deki seçimler öncesinde dolaşıma sokulan bir dizi resim ve video ile ABD Başkanı Joe Biden’ın üzerinde oynanmış bir ses kaydı da dahil olmak üzere, yapay zeka tarafından üretilen seçim temalı içeriğin son örneklerinin, daha büyük ölçekte olabileceklerin habercisi olma ihtimali yüksek.

Peki, Dünya seçime giderken deepfake kitlesel bir aldatma silahına mı dönüşüyor? Dijital güvenlik şirketi ESET deepfake konusunu masaya yatırdı.

DÜNYA EKONOMİK FORUMU RİSKE DİKKAT ÇEKTİ

Yanlış bilgilendirme ve dezenformasyon Dünya Ekonomik Forumu (WEF) tarafından önümüzdeki dönemin en önemli küresel riski olarak belirlendi. Deepfake’lerle ilgili sorun, yapay zeka destekli teknolojinin artık ucuz, erişilebilir ve büyük ölçekte zarar verebilecek kadar güçlü hale gelmesi olarak tanımlanıyor. Bu da siber suçluların, kötü niyetli siyasi aktörlerin ve hacktivistlerin ikna edici dezenformasyon kampanyaları ve daha geçici, tek seferlik dolandırıcılıklar başlatma becerilerini artırıyor.

WEF’in raporuna göre sentetik içerik önümüzdeki iki yıl içinde bireyleri manipüle edecek, ekonomilere zarar verecek ve toplumları çeşitli şekillerde parçalayacak. ChatGPT ve kolaylıkla erişilebilen üretken yapay zeka (GenAI) gibi araçların, daha geniş bir yelpazedeki bireylerin deepfake teknolojisi tarafından yönlendirilen dezenformasyon kampanyalarının oluşturulmasına katılmasını mümkün kılması önemli bir zorluğu oluşturuyor.

Bir seçim sürecinde deepfake, seçmenlerin belirli bir adaya olan güvenini sarsmak için kullanılabilir. Eğer bir siyasi parti ya da adayın destekçileri sahte ses ya da videolarla uygun bir şekilde yönlendirilebilirse, bu rakip gruplar için bir kazanç olacaktır.  Bu zorluğun temelinde basit bir gerçek yatıyor: İnsanlar bilgiyi işlerken niceliğe ve kolay anlaşılırlığa değer verme eğilimindedir.

Benzer bir mesaj içeren ne kadar çok içerik görürsek ve bunları anlamak ne kadar kolay olursa, bunlara inanma şansımız da o kadar yüksek olur. Buna bir de deepfake’lerin gerçek içerikten ayırt edilmesinin giderek zorlaştığı gerçeğini eklediğinizde, elinizde potansiyel bir demokratik felaket reçetesi var demektir.

TEKNOLOJİ FİRMALARI BU KONUDA NE YAPIYOR?

Hem YouTube hem de Facebook’un, yakın zamanda yapılan bir seçimi etkilemeyi amaçlayan bazı deepfake’lere yanıt vermekte yavaş davrandığı söyleniyor. Bu durum, sosyal medya şirketlerinin seçim manipülasyonu girişimlerini engellemelerini gerektiren yeni bir AB yasasına (Dijital Hizmetler Yasası) rağmen gerçekleşti.

OpenAI ise DALL-E 3 tarafından üretilen görüntüler için Coalition for Content Provenance and Authenticity’nin (C2PA) dijital kimlik bilgilerini uygulayacağını açıkladı. Meta ve Google tarafından da denenen kriptografik filigran teknolojisi, sahte görüntü üretmeyi zorlaştırmak için tasarlandı.

Ancak bunlar hala bebek adımları ve seçim ateşi tüm dünyayı sararken tehdide karşı teknolojik müdahalenin çok az ve çok geç olacağına dair haklı endişeler var. Özellikle de WhatsApp grupları ya da robocall’lar gibi nispeten kapalı ağlarda yayıldığında, sahte ses ya da videoları hızlı bir şekilde takip etmek ve çürütmek zor olacaktır.