Deepfake Videoları Nasıl Tesbit Edilecek?

Günümüzün zorlu görevi yapay zekanın sahtecilikte kullanımını önleyecek etkili bir araç tasarlamak 

Yapay zeka öncelikle görseller, videolar ve bir bütün olarak bakıldığında oldukça ikna edici görünen büyük miktarda metin oluşturmak için gerekli araçların sağlanmasında kullanılıyor.

Bu tür üretken yapay zekadaki patlamanın ışığında uyarılar gelmeye devam ediyor. Yapay zekaya eşlik eden olgular daha önce yaygın değildi.

Günümüzde ise yapay olarak oluşturulan içeriğin yalnızca varlığı bile herhangi bir görselin, videonun veya metin parçasının gerçekliği konusunda şüphe uyandırabilir.

Bu içeriğin miktarı arttıkça ve modelleri geliştikçe bu şüphenin giderek artacağı kesin.

Deepfake videoları tespit etmenin yolu: Videoda konuşan kişinin kalp atışından gerçek olup olmadığı ölçülebiliyor

Deepfake tehlikesi ekonomik bir fırsata dönüşebilir
Kimi insanlar bu şüphe dalgalarını istismar ediyor; örneğin dijital belgelerle desteklenen bir davadaki sanıklardan biri, kendisine yönelik iddiaların doğru olmasına rağmen, insanların kalplerinde şüphe uyandırmak isteyebiliyor.

Bütün meseleyi yapay zekaya ve onun hilelerine bağlamak, aslında dünyanın pek çok bölgesinde çeşitli siyasi, ekonomik ve toplumsal olaylarda yaşanan bir durum.

Buradan hareketle birçok sektör, yapay zekanın yarattığı metinler ve sanat eserleriyle ilgili alarma geçti.

Özellikle öğrencilerin, ödevlerini yazmak için tamamen ChatGPT’yi kullanacaklarından korkan eğitim sektörü alarma geçti.

Zamanla yapay zeka tarafından üretilen bilgiler, çeşitli çalışmaların, yapay olarak oluşturulan metinlerin insanlar tarafından yazılanlardan daha ikna edici göründüğünü göstermesinin ardından gerçek bir endişe kaynağı haline geldi.

Gerçek şu ki hiç kimsenin, hatta lansmanına yardımcı olan şirketin bile olup biten her şeyle nasıl başa çıkılacağına dair bir yanıtı yok.

Yapay içeriğin belirlenmesi

Tüm bunlara rağmen hükümetler henüz yapay zekayı dizginlemenin net ve etkili bir yolunu bulamadılar.

Çevrimiçi yanlış bilgileri ortadan kaldırmak amacıyla kendi kurallarını ve politikalarını belirlemek ve kendi koruma önlemlerini geliştirmek hâlâ bireysel grup ve kuruluşlara kalmış durumda.

Avrupa Komisyonu, yasaların yürürlüğe girmesini beklemek yerine insanların gerçeği kurgudan ayırt etmesini kolaylaştırmak için Google, Facebook ve TikTok gibi büyük teknoloji şirketlerinden yapay zeka tarafından oluşturulan içerikleri net bir şekilde sınıflandırmaya başlamasını istedi.

Bu şekilde büyük platformlar ve arama motorları Dijital Hizmetler Yasası (DSA) kapsamında, "deepfake" olarak bilinen, yapay olarak oluşturulan veya manipüle edilen içeriği tanımlamak zorunda kalacak, aksi takdirde ağır para cezalarıyla karşı karşıya kalacak.

Dolayısıyla günümüzün zorlu görevi yapay zekanın sahtecilikte kullanımını önleyecek etkili bir araç tasarlamak.

Özellikle önerilen hiçbir teknolojinin şu ana kadar etkili olduğu kanıtlanmadığı için bu araç, içeriğin doğru bir şekilde tespit edilmesini sağlamak için güçlü teknik mekanizmalar geliştirmeyi de içeriyor.

Denemeler

Watermark teknolojisi, haber ajansları ve görsel üretiminde uzmanlaşmış şirketler tarafından (görsellerinin izinsiz kullanılmasını önlemek amacıyla) yaygın olarak kullanılırken, yapay zekanın birçok modelle üretebildiği içerik çeşitliliği, işleri daha da karmaşık hale getiriyor.

Özellikle birçok uzman, watermark teknolojisinin atlatılabileceği çeşitli yolların olduğunu ortaya koyduktan sonra bu karmaşıklık artıyor.

Ayrıca, örneğin görüntü boyutunu değiştirmek gibi içeriğin kendisinde değişiklik yaparken bazı teknolojilerin bunları tespitte etkili olmaması da mümkün.

Üstelik geçen temmuz ayında OpenEye, yapay zeka tarafından yazılan metinleri tespit etmesi gereken bir aracı, doğruluk oranının düşük olması nedeniyle kapatmıştı.

Daha sonra bu aracın yapay zeka tarafından oluşturulan metni yakalamada yeterince iyi olmadığını kabul etti ve yanlış sonuçlar ortaya koyabileceği konusunda uyardı.

Ayrıca OpenEye kullanıcıların işitsel mi yoksa görsel içeriğin mi yapay zeka tarafından oluşturulduğunu bilmesini sağlayacak teknolojiler geliştirmeyi ve uygulamayı planladığını duyurdu.