1. Haberler
  2. TEKNOLOJİ
  3. Yapay Zeka Tehditleri: Biyolojik Silah Uyarısı!

Yapay Zeka Tehditleri: Biyolojik Silah Uyarısı!

featured
service
Paylaş

Bu Yazıyı Paylaş

veya linki kopyala

Anthropic, yapay zeka modelinin biyolojik silah geliştirilmesine yönelik “kötü amaçlı faaliyetler” için kullanılma girişimlerini tespit ettiğini ve bunları önlemeye yönelik adımlar attığını açıkladı. Şirketin bu açıklaması, Google‘ın benzer bir duyurusunun ardından yalnızca iki gün içinde yapıldı. Anthropic’in son tehdit istihbaratı raporunda yer alan veriler, yapay zeka araştırmacıları ve sektördeki uzmanların teknolojinin insanlık üzerindeki potansiyel tehlikelerine dair artan uyarılarının bir yansıması oldu. Bu uyarılar, harekete geçilmesi gerektiği yönündeki çağrıları da beraberinde getirdi: ABD Senatörü Bernie Sanders, gelişmiş yapay zeka araştırmalarına ara verilmesini ve yapay süper zekanın yasaklanmasını talep etti. ABD Başkanı Donald Trump ise bu çağrılara olumsuz yanıt vererek “Yapay zeka yarışını kazanamazsak korkunç bir duruma düşeceğimiz konusunda endişeliyim” şeklinde konuştu.

Şirket, son tehdit istihbaratı raporunu 10 Eylül’de yayımladı. Bu tür raporlar, yapay zeka şirketlerinin modellerinin kötüye kullanılmasına yönelik girişimleri nasıl tespit edip engellediklerini ortaya koymaya çalıştığı bir alan haline geldi. Google da 8 Eylül’de, bir kişinin Gemini yapay zeka aracını kullanarak “biyolojik silah sentezlenmesine yönelik ayrıntılı bir teknik kılavuz” elde etmeye çalıştığını duyurdu. Rapora göre, Anthropic’in yapay zeka modeli Claude, Rusya ile bağlantılı bir siber casusluk kampanyası ve İranlı bir propaganda kurumu tarafından da kullanıldı.

Son sekiz ay içinde tespit edilen bazı endişe verici vakalar arasında sahte flört uygulamaları, otel Wi-Fi dolandırıcılıkları ve muhalifleri hedef alan gözetim sistemleri gibi çeşitli örnekler yer aldı. Anthropic ayrıca, Çinli yapay zeka şirketlerinin Claude’un yeteneklerini kopyalamaya çalıştığını iddia etti. Kapsamlı rapor, devlet destekli grupların, suçluların, casus yazılım satıcılarının ve siyasi motivasyonlu kişilerin şirketin teknolojisini kötüye kullandığı olayları sıraladı. Şirket, Claude’un Haiku, Sonnet ve Opus modellerinin “kötü amaçlı kullanımının” Aralık 2025 ile Ağustos 2026 arasında engellendiğini belirtti.

Daha küçük yapay zeka modellerinin, daha büyük ve maliyetli modeller kullanılarak eğitilmesine dair bir “damıtma vakası” dışında, kötüye kullanım örneklerinin hiçbirinde Claude Fable veya güçlü Mythos sınıfı modelleri yer almadı. Anthropic, modellerinin siber operasyonlar, gözetim, dolandırıcılık, sahtekarlık ve silah geliştirme amacıyla kullanılmasını tespit etmesinin yanı sıra, yapay zekasını biyolojik silah geliştirmeyi destekleyebilecek şekillerde kullanan bilim insanlarını da engellediğini açıkladı. Biyolojik silahlar, insanlara zarar vermek ya da öldürmek amacıyla hastalık veya toksin yaymak için tasarlanıyor ve araştırmacılar, gelişen yapay zeka araçlarının bu silahların geliştirilmesindeki bazı teknik engelleri ortadan kaldırabileceği konusunda uyarıyor.

Raporda, “modelleri biyolojik silah geliştirmeyi destekleyebilecek şekillerde kullanan aktörlere dair beş vaka incelemesi” vurgulandı. Biyolojik amaçlı kötüye kullanım, “öncü yapay zeka modellerinin en büyük risklerinden biri” olarak tanımlandı. Anthropic, uygun koruma önlemleri olmadan bu tür yeteneklerin “felaket sonuçlara yol açabileceği” konusunda uyarıda bulundu. Şirket ayrıca, “Biyolojik silah geliştirmek için kullanılabilecek bilgiler, bir aşı ya da hastalığın tedavisini geliştirmek için de kullanılabilir” ifadelerine yer verdi.

Anthropic’te tehdit istihbaratı lideri Jacob Klein, New York Times’a verdiği demeçte, durumun “son derece karmaşık” olduğunu belirtti: “Çizgi romanlardaki gibi çıkıp da ‘Herkesi öldürmek için biyolojik silah yapmak istiyorum’ diyen birini görmüyorsunuz.” Raporda, Claude’un “ateşli silahlar, füzeler, silahlı insansız hava araçları, bombalar ve diğer mühimmat türleri ile bunları kontrol eden sistemler için yazılım geliştirmek amacıyla” kullanıldığı altı vaka da yer aldı. Rapor, siber suçlular ve devlet destekli hackerların, şirketin teknolojisini giderek daha fazla kullandığını gösterdi. ShinyHunters adlı hacker grubu ile Çin merkezli laboratuvarlar, raporda adı geçenler arasında bulunuyor.

Raporda ayrıca, Rusya merkezli Midnight Blizzard ile ilişkilendirilen bir hacker grubunun, kötü amaçlı yazılımlarının güvenlik sistemleri tarafından tespit edildiği durumları otomatik olarak belirleyen ve tespit edilmekten kaçınana kadar kodu yeniden yazan bir sistem geliştirmek için yapay zeka kullandığı iddia edildi. Kaliforniya merkezli şirket, bulgularını “gelecekte bu tür faaliyetleri daha iyi önlemek, tespit etmek ve engellemek” amacıyla süreçlerine dahil ettiğini açıkladı. Anthropic, uygun durumlarda istihbarat bilgilerini yetkililer ve sektör ortaklarıyla paylaştığını da belirtti.

Şirketin bu yıl yayımladığı ilk rapor, Anthropic’teki bir üst düzey güvenlik araştırmacısının yapay zekanın hızla ilerlediği ve önümüzdeki on yıl içinde “tüm insanları öldürebileceği” olasılığı hakkında yaptığı açıklamaların ardından geldi. 6 Eylül’de yayımlanan bir makalede OpenAI Baş Bilim İnsanı Jakub Pachocki, koruma önlemleri oluşturulana kadar sektörün “gönüllü yavaşlamalar” uygulaması çağrısında bulundu. Pachocki, “Makine zekasındaki hızlı yükselişin sürmesinin sonuçlarına kimsenin hazır olmadığını” belirtti ve ChatGPT’yi geliştiren OpenAI’ın koruma önlemleri oluşturma çalışmalarına devam edeceğini, ancak daha geniş kapsamlı müdahalelere ihtiyaç olduğunu ekledi. Bu uyarılar, İngiltere Başbakanı Andy Burnham’ın yapay zekanın güvenli geliştirilmesi için yeni bir çok uluslu anlaşma çağrısında bulunmasına yol açtı. ABD’de Demokrat siyasetçi Bernie Sanders, yapay süper zekayı yasaklamak ve gelişmiş yapay zeka geliştirme çalışmalarına geçici olarak ara vermek amacıyla bir yasa tasarısı sundu. Perşembe günü BBC’nin Newsnight programında konuşan Sanders, “Bilim insanları size bunun insanlık üzerinde felaket boyutunda bir etki yaratma ihtimali olduğunu söylüyorsa, ‘Yavaşlatın’ dememek için aptal olmak gerekir” ifadelerini kullandı.

Bu habere Osmond Chia da katkıda bulundu. Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti.

Yapay Zeka Tehditleri: Biyolojik Silah Uyarısı!
Yorum Yap

Tamamen Ücretsiz Olarak Bültenimize Abone Olabilirsin

Yeni haberlerden haberdar olmak için fırsatı kaçırma ve ücretsiz e-posta aboneliğini hemen başlat.

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Giriş Yap

Kral Galatasaray Haber ayrıcalıklarından yararlanmak için hemen giriş yapın veya hesap oluşturun, üstelik tamamen ücretsiz!