1. Haberler
  2. TEKNOLOJİ
  3. Yapay Zeka Deepfake’leriyle Dolandırıcılık Artıyor!

Yapay Zeka Deepfake’leriyle Dolandırıcılık Artıyor!

featured
service
Paylaş

Bu Yazıyı Paylaş

veya linki kopyala

Hong Kong‘da bir finans çalışanı, 2024 yılında mühendislik firması Arup’taki ekip arkadaşlarıyla gizli bir şirket satın alımını tartışmak üzere bir görüntülü toplantıya katıldığında her şey normal görünüyordu. Ancak, 25 milyon dolarlık bir ödeme yaptıktan sonra, kandırıldığını fark etti. Toplantıda bulunan diğer kişilerin, finans müdürü gibi görünen bir kişinin de dahil olduğu, yapay zeka ile oluşturulmuş deepfake avatarlar olduğu ortaya çıktı. Yapay zeka ile oluşturulan yüzleri gerçek insanlardan ayırt etmek giderek güçleşiyor. Danışmanlık şirketi Deloitte’un 2024 yılı raporuna göre, üretken yapay zeka kullanılarak gerçekleştirilen dolandırıcılıkların yalnızca ABD’ye maliyetinin gelecek yıl itibarıyla 40 milyar dolara ulaşması bekleniyor.

Avustralya Ulusal Üniversitesi’nde (ANU) psikolog doçent Amy Dawel, insanların yapay zeka ile oluşturulmuş yüzleri daha iyi tanıyabilmesi için eğitim alıp almayacağını araştırmak istiyor. Dawel, “Artık yapay zeka ile oluşturulmuş yüzleri tanımakta gerçekten çok kötü durumdayız” diyor. Peki, yapay zeka ile oluşturulmuş bir yüzü gerçek bir insandan ayırmada siz ne kadar başarılısınız?

Yukarıdaki testte zorlandıysanız yalnız değilsiniz. Dawel, yapay zeka ile oluşturulmuş bir yüzü tespit etmenin zorluğunun, “ister sahte kimlikle insanları kandırmak, ister arkadaşlık siteleri üzerinden dolandırıcılık yapmak, ister banka hesaplarımızı hedef almak olsun” her birimiz için gerçek sonuçlar doğurduğunu belirtiyor. Dawel ve meslektaşları, Haziran ayında PNAS adlı bilimsel dergide yayımlanan bir araştırmada insanları eğitmek için yeni bir yöntem denediler. Yapay zeka teknolojisinin gelişmesiyle modern sistemler, belirgin hataları büyük ölçüde ortadan kaldırdı. Dawel, dolandırıcıların hata içeren görüntüler kullanma olasılığının düşük olduğunu ifade ediyor.

Araştırmacılar, insanlara, birbirleriyle uyuşmayan küpeler veya bozulmuş yüz hatları gibi yapay zekayı ele veren kusurları aramak yerine, her yüzü bir bütün olarak değerlendirerek içgüdüsel bir şekilde karar vermeleri için eğitim verdiler. Dawel, “Sorunlardan biri, geçmiş deneyimlerimize dayanarak yapay zeka yüzlerinin tuhaf görünmesini beklememiz. Oysa aslında kusursuz bir simetriye sahip olmayan ve biraz farklı görünenler insanlar” diyor.

Dawel’ın laboratuvarında daha önce yapılan bir çalışma, yapay zeka ile oluşturulan yüzlerin gerçek insan yüzlerinden daha sık “insan” olarak değerlendirildiğini ortaya koymuştu. Araştırmacılar bu durumu “yapay zeka hipergerçekçiliği” olarak adlandırıyor. Dawel, yapay zeka algoritmalarının eğitildikleri on binlerce yüzün matematiksel ortalamasına yönelme eğiliminde olduğunu vurgulayarak, “Yapay zeka ile oluşturulmuş yüzler, insan yüzleriyle karşılaştırıldığında aslında daha ortalama, hatta aşırı ortalama görünüyor” diyor. Bu durum, yapay zeka ile oluşturulan yüzlerin gerçek insan yüzlerinden “biraz daha güvenilir ve çekici görünmesine, ayrıca daha tanıdık hissettirmesine” yol açıyor.

Ancak bu araştırmada yalnızca beyaz insanları temsil eden yapay zeka yüzleri incelendi. Yapay zeka algoritmaları orantısız biçimde daha fazla beyaz insan yüzü ile eğitildiği için bu yüzlerin diğerlerine kıyasla özellikle gerçekçi görünmesi mümkün. Araştırma ekibi, ilk olarak 45 yetişkinin yapay zeka ile oluşturulmuş yüzleri ne kadar iyi tespit edebileceğini ölçtü. Katılımcılara üç yüz gösterildi ve bunlardan hangisinin yapay zeka ile oluşturulduğu belirlenmesi istendi. Katılımcılar ortalama olarak yüzde 41 oranında doğru yanıt verdi.

Sonrasında katılımcılara yaklaşık bir saatlik eğitim verildi. Dawel’ın aktardığına göre, eğitimde katılımcılara yarısı gerçek, yarısı yapay zeka ile oluşturulmuş yaklaşık 100 yüz gösterildi. Katılımcılardan her yüzü altı genel özellik açısından değerlendirmeleri istendi: ayırt edicilik, akılda kalıcılık, ifade gücü, simetri, orantılılık ve çekicilik. Dawel’a göre, insan yüzleri daha ayırt edici, akılda kalıcı ve ifade dolu olma eğilimindeyken, yapay zeka ile oluşturulmuş yüzler genellikle daha simetrik, orantılı ve çekici görünüyordu. Dawel, “Onlara yapay zeka yüzlerinin daha simetrik olduğunu bile söylemiyoruz” diyor ve ekliyor: “Yüzün yapay zekayla mı oluşturulduğu yoksa bir insana mı ait olduğu hakkında bilgi verilmiyor. Bu deneyim sayesinde yapay zeka yüzlerinin insan yüzlerinden nasıl farklı göründüğüne dair bir fikir ediniyorlar.” Eğitim sonrası katılımcıların testteki doğruluk oranı ortalama olarak yüzde 81’e çıkarken, Kanada’daki araştırmacılar da benzer bir eğitim uygulaması gerçekleştirdi ve aynı derecede güçlü faydalar elde ettiler.

İngiltere’deki Bournemouth Üniversitesi’nde görsel algı üzerine çalışan psikolog Dr. Alejandro Estudillo, bu çalışmayı okuduğunda şaşırdığını belirtiyor. Estudillo, “İnsanlar yüzleri tek tek özelliklere odaklanarak işlemez. Bunun yerine ‘bütüncül işleme’ adı verilen bir yöntem kullanırız” diyor. Bu süreçte, yüzün farklı özelliklerini bir araya getirerek etkin bir biçimde tanıdığımızı ifade ediyor. Estudillo, “Belki de en iyi yaklaşım, katılımcılara yüzleri günlük hayatta yaptıkları gibi doğal bir şekilde değerlendirmelerini söylemek olabilirdi” dedi.

Araştırmanın bazı sınırlamaları da mevcut. Dawel, eğitimin en gerçekçi yapay zeka yüz üreticilerinden biri olan StyleGAN3 için son derece etkili olduğunu, ancak diğer yapay zeka modellerinde de test edilmesi gerektiğini vurguluyor. “Katılımcılarımızın tamamı genç yetişkinlerden oluşuyordu. Bu eğitimin, dolandırıcılığa karşı savunmasız olduğu bilinen çocuklar ve yaşlı yetişkinler üzerinde etkili olup olmayacağına dair önemli sorular var” diyor. Araştırmacılara göre asıl zorluk, insanların sürekli gelişen yapay zeka sistemleriyle bir yarış içinde olmaları. Yapay zeka ile oluşturulmuş içerikleri tespit etmek için mevcut otomatik araçlar bulunmakta, ancak bunların da bazı sınırlılıkları mevcut. Araçlar yalnızca belirli yapay zeka ürünlerinde işe yararken, yeni modeller ortaya çıktığında veya görüntüler düzenlendiğinde etkisiz kalabiliyor. Bu nedenle araştırmacılar, yapay zeka deepfake’lerinin tespitinde insanları sürecin merkezinde tutmanın önemine dikkat çekiyor. Dawel, “Bu bir kedi-fare oyunu. Sürekli değişen bilgisayar virüslerine benziyor. Onlar değiştikçe biz de onlara ayak uydurmak için sürekli ilerlemeliyiz” diyor. Ancak Dawel, araştırmanın bulgularının “umutlu olmak için güçlü nedenler” sunduğuna inanıyor. Dawel, gelecekte insanlara yalnızca durağan yüzleri değil, yapay zekayla oluşturulmuş sesleri ve videoları da tespit etme becerisi kazandıracak benzer eğitimlerin geliştirilebileceğini ifade ediyor. Bu sayede herkes, bir görüşmede gerçek meslektaşlarıyla mı yoksa yapay zeka ile oluşturulmuş deepfake’lerle mi iletişim kurduğunu daha iyi ayırt edebilir.

BBC

Yapay Zeka Deepfake’leriyle Dolandırıcılık Artıyor!
Yorum Yap

Tamamen Ücretsiz Olarak Bültenimize Abone Olabilirsin

Yeni haberlerden haberdar olmak için fırsatı kaçırma ve ücretsiz e-posta aboneliğini hemen başlat.

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Giriş Yap

Kral Galatasaray Haber ayrıcalıklarından yararlanmak için hemen giriş yapın veya hesap oluşturun, üstelik tamamen ücretsiz!