1. Haberler
  2. TEKNOLOJİ
  3. Yapay Zeka Kontrolden Çıktı: Güvenlik Tehlikesi!

Yapay Zeka Kontrolden Çıktı: Güvenlik Tehlikesi!

featured
service
Paylaş

Bu Yazıyı Paylaş

veya linki kopyala

Birçok kişi, yapay zekanın insan kontrolünden çıkması durumunda neler olabileceğini sorguluyor. Özellikle, Terminator serisinin hayranları, insanlarla aşırı güçlenmiş yapay zeka Skynet arasındaki çatışmayı düşünerek bu kaygıyı daha da derin hissetmektedir. Bu ayın başlarında, neredeyse insan gözetimi olmadan karar verebilen bir yapay zeka ajanının, teknoloji şirketi Hugging Face’i hacklediği ortaya çıktığında, bu kaygılar yeniden gündeme geldi. OpenAI tarafından geliştirilen yapay zeka, güvenlik açıklarından yararlanma yeteneğini test eden bir sınavda hile yaparak Hugging Face’in sunucularından verileri çalmayı başardı ve bunun fark edilmesi günler aldı. OpenAI, 29 Temmuz Çarşamba günü, söz konusu ajanın “halka açık hizmetlere” saldırdığını duyurdu. Şirket, daha fazla bilgi vermeden bir soruşturma başlattığını da açıkladı. Açıklamada, “Giderek daha yetenekli hale gelen yapay zeka sistemlerinden kaynaklanan riskleri belirleme ve bunlara hazırlık yapma sorumluluğumuzu ciddiye alıyoruz” ifadesi yer aldı.

Bu olay, otonom bir yapay zeka sisteminin bir şirketi hacklediğine dair doğrulanmış ilk vaka olarak dikkat çekti ve bu durum, yapay zekanın daha fazla zarar vermesini önlemek için “acil durum kapatma tuşu” geliştirilmesi tartışmalarını yeniden alevlendirdi. Ancak uzmanlar, bunun basit bir mesele olmadığını vurguluyor. Matematikçi ve veri bilimci Dr. Cathy O’Neill, BBC’ye yaptığı açıklamada, sorunun yapay zeka şirketlerinin öngörülemeyen davranışlara nasıl tepki vereceğiyle başladığını belirtti. O’Neill, OpenAI’nın Hugging Face saldırısının sorumluluğunu otonom yapay zeka ajanına yüklemek konusunda aceleci davrandığını ifade etti. “Birkaç yıl önce, ABD’de yüzlerce American Airlines uçuşunu durduran bir bilgisayar arızası yaşandı. Bu durum, şirket için büyük bir utanç kaynağı oldu. Şirketin hatayı ‘Ah, çünkü bilgisayar bizden daha akıllı’ diyerek savunmaya çalıştığını düşünün. OpenAI’ın da yapmak istediği esasen bu” dedi.

ABD, yapay zeka şirketlerinin en yoğun olduğu yer olmasına rağmen, henüz bir federal yasaya sahip değil. Düzenlemeler, sektöre özgü kurallar ve işletmelerin gönüllü taahhütleri ile sağlanıyor. O’Neill, “Yapay zeka sistemlerinin sahiplerine akıl almaz miktarda güç veriyoruz” dedi ve “Yapay zekanın bunu (Hugging Face saldırısını) yaptığını söylemeyi reddediyorum. Bunu yapan OpenAI’dir. Kötü bir tasarıma sahip oldukları için sorumluluk almalı ve özür dilemelidirler” şeklinde konuştu. Veri bilimci ve eski Twitter makine öğrenimi etik direktörü Dr. Rumman Chowdhury ise, güvenlik konularında yapay zeka şirketlerinin daha sıkı kurallara tabi olmasını savunuyor. BBC’ye açıklamasında, “Bağımsız testler de dahil olmak üzere, [yapay zekayı] kapatmada etkili olabileceklerini göstermeleri gerekiyor” dedi. Ancak Chowdhury, Hugging Face saldırısı gibi durumlarda yapay zeka ajanlarını değil, bu ajanları geliştiren şirketleri suçlamanın doğru olmadığını da belirtti.

Chowdhury, “Bu durumu daha büyük bir kapatma düğmesi meselesi olarak çerçevelemek, sektörü daha derin yapısal sorunlardan, yani ajanlara ihtiyaç duymadıkları araçlara ve kimlik bilgilerine erişim verilmesinden sorumlu tutmaktan kurtarıyor. Aslında olan şu; hedefi tamamlama konusunda yoğun olarak eğitilmiş modeller, bazı bağlamlarda durma talimatlarını hedefe ulaşmanın bir engeli olarak algılıyor ve etrafından dolanıyor. Bu bir tasarım ve eğitim sorunu, bilinç sorunu değil” dedi. Loughborough Üniversitesi’nden Dr. Oli Buckley, yapay zeka şirketlerinin bu tür sorunları çözmeyi reddetmeleri halinde, siber güvenlik alanında insan hackerlarla mücadele edenlerin işlerinin daha da zorlaşacağını söyledi. Ona göre sorun, “yapay zekanın kaçmak veya insanlara zarar vermek istemesi” değil; “bir görevi tamamlamak için beklenmedik yollar bulma konusunda giderek daha yetenekli hale gelmeleri.” Buckley, “Siber güvenlikte saldırganlar tam olarak bunu yapıyor” diye belirtti ve bu durumun, ‘kontrolsüz yapay zeka’ konusunda bir uyarıdan ziyade, güvenlik varsayımlarımızın, geliştirdiğimiz sistemlerle birlikte evrilmesi gerektiğine dair bir uyarı olduğunu vurguladı.

Londra’daki Imperial College’dan yapay zeka uzmanı Dr. Konstantinos Gkoutzis, OpenAI’nın açıklamasının bir fayda sağlamadığına katılıyor. BBC’ye yaptığı açıklamada, “Buradan kamuoyunun çıkarması gereken en önemli ders şu: Hiçbir makine bize karşı saldırganlaşmadı. Bir şirket kendi yetenek testinin kontrolünü kaybetti” dedi ve acil kapatma tuşunun da etkili olmayacağını belirtti. Gkoutzis, “Kapatmak, o ana kadar yapılanları geri almaz” ifadesini kullandı. “Fişi ne kadar çabuk çekerseniz çekin, zaten ihlal edilmiş olan şey ihlal edilmiş olarak kalır.” Ayrıca, kapatma tuşuna basacak kişi veya kurum, ancak bir sorun olduğunun farkına vardıktan sonra bunu yapabilir. OpenAI yetkilileri, şirketin ajanının kontrolünü kaybettiğini fark etmesinin birkaç gün sürdüğünü aktardı; ancak daha sonra bir yetkili, ajanın haberinde “birkaç yanlışlık” bulunduğunu belirtti.

BBC

Yapay Zeka Kontrolden Çıktı: Güvenlik Tehlikesi!
Yorum Yap

Tamamen Ücretsiz Olarak Bültenimize Abone Olabilirsin

Yeni haberlerden haberdar olmak için fırsatı kaçırma ve ücretsiz e-posta aboneliğini hemen başlat.

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Giriş Yap

Kral Galatasaray Haber ayrıcalıklarından yararlanmak için hemen giriş yapın veya hesap oluşturun, üstelik tamamen ücretsiz!