1. Haberler
  2. TEKNOLOJİ
  3. Palantir’den Yapay Zeka İle İlgili Tartışmalı Açıklama

Palantir’den Yapay Zeka İle İlgili Tartışmalı Açıklama

featured
service
Paylaş

Bu Yazıyı Paylaş

veya linki kopyala

Teknoloji şirketi Palantir, BBC’ye verdiği özel bir röportajda, yapay zeka platformlarının askeri alandaki kullanımının beraberinde getirebileceği öngörülemeyen risklere dair kaygıları reddederek, bu teknolojinin kullanımının tamamen askeri müşterilerin sorumluluğunda olduğunu belirtti.

Açıklama, uzmanların Palantir’in ABD’nin İran‘a karşı yürüttüğü askeri operasyonlarda kullanılmakta olan yapay zeka destekli Maven Smart System’i sorgulamalarının ardından geldi.

Analistler, askeri personelin saldırı planlamasına yardımcı olan bu platformun verilerin “anlamlı bir şekilde doğrulanması” için kısıtlı zaman sunduğunu ve yanlış hedeflerin vurulma olasılığını artırabileceğini vurguluyor.

Şirketin İngiltere ve Avrupa Başkanı Louis Mosley, BBC’ye yaptığı açıklamada, Maven gibi yapay zeka platformlarının ABD’nin İran ile yürüttüğü savaşta “belirleyici” bir rol oynadığını ifade etti.

Ayrıca, bu verilerin nasıl kullanılacağı konusunun her zaman “askeri kurumda” kalması gerektiğini de ekledi.

Mosley, “Her zaman süreçte bir insan var, yani nihai kararı veren bir insan bulunuyor. Mevcut düzen bu” dedi.

Maven Smart System, Pentagon tarafından 2017 yılında devreye alındı. Bu sistem, istihbarat, uydu ve insansız hava aracı (İHA) görüntüleri gibi büyük veri setlerini bir araya getirerek askeri hedefleme kararlarını hızlandırmayı amaçlıyor.

Sistem, bu verileri analiz ederek hedefleme için önerilerde bulunabiliyor. Ayrıca, askeri teçhizatın mevcudiyetine göre kullanılacak güç düzeyini de önerme yeteneğine sahip.

Ancak, bu tür teknolojilerin savaş alanında kullanımı giderek daha fazla sorgulanıyor.

Pentagon, Şubat ayında, Maven’i destekleyen sistemlerden biri olan Anthropic’in yapay zeka platformu Claude’un, otonom silahlar ve gözetim için kullanımına izin verilmemesi gerekçesiyle aşamalı olarak kaldırılacağını açıkladı.

Palantir, bunun yerine alternatif çözümlerin devreye alınabileceğini ifade ediyor.

ABD’nin İran ile savaşının başlamasından bu yana, ülke genelindeki saldırıların planlamasında Maven’in kullanıldığı bildirilmektedir.

BBC’nin Maven’in yanlış hedefler önerebilme riski konusundaki sorusuna Mosley, platformun yalnızca askeri personelin karar alma sürecini hızlandırmak için tasarlanmış bir rehber olduğunu belirterek yanıt verdi. Ayrıca, sistemin otomatik bir hedefleme aracı olarak görülmemesi gerektiğini de savundu.

Mosley, “Maven’i bir destek aracı olarak düşünebilirsiniz. Daha önce tek tek elle yapmaları gereken büyük miktarda bilgiyi sentezlemelerini sağlıyor” dedi.

Ancak Mosley, komutanların zaman baskısı altında personelinden Maven’in çıktısını onaylanmış bir karar gibi muamele etme isteği hakkında gelen bir soruya şu şekilde yanıt verdi:

“Bu aslında askeri müşterilerimize sorulması gereken bir soru. Kimlerin hangi kararı vereceğini belirleyen politika çerçevesine onlar karar veriyor. Bu bizim rolümüz değil.”

28 Şubat’tan bu yana, ABD’nin İran’a karşı 11 binden fazla saldırı düzenlediği ve bunların çoğunun Maven tarafından belirlendiği bildiriliyor.

ABD’nin Ortadoğu’daki askeri güçlerinin başındaki Amiral Brad Cooper, yapay zeka sistemlerinin subaylara “çok büyük miktarda veriyi saniyeler içinde tarama” olanağı sunduğunu, bu sayede “liderlerin karmaşayı aşarak düşmandan daha hızlı kararlar almasını” sağladığını ifade etti.

Ancak, yapay zekanın görev planlama süreçlerine katılımının ciddi riskler doğurabileceği konusunda endişeler de mevcut.

İngiltere’deki Queen Mary Üniversitesi’nden Prof Elke Schwarz, “Hız ve ölçeğe öncelik verilmesi, hedeflerin anlamlı bir şekilde doğrulanması için çok az zaman bırakıyor; bu durum da yanlışlıkla sivillerin hedef alınmasına neden olabilir” dedi.

Schwarz, “Öldürme riski varsa ve kritik karar alma sürecinin büyük bir kısmını yazılıma devrederseniz, yazılıma bağımlı hale gelirsiniz. Bu da sizi tehlikeye sokar” diye ekledi.

Pentagon yetkilileri, İran’ın Minab kasabasındaki bir okula yönelik ölümcül saldırıda Maven gibi yapay zeka araçlarının hedef belirlemede kullanılıp kullanılmadığı konusunda son haftalarda sorgulandı.

İranlı yetkililer, savaşın ilk gününde gerçekleştirilen bir saldırıda 168 kişinin hayatını kaybettiğini, bunların yaklaşık 110’unun çocuk olduğunu ifade etti.

Kongre’de bazı üst düzey Demokratlar, Maven gibi yapay zeka platformlarının daha fazla denetlenmesi gerektiğini savunuyor.

Temsilciler Meclisi Silahlı Hizmetler Komitesi Üyesi Sara Jacobs, yapay zeka sistemlerinin nasıl ve ne zaman kullanılacağı konusunda açıkça belirlenmiş kuralların gerekliliğini ifade etti.

Jacobs, yapay zeka araçlarının yüzde 100 güvenilir olmadığını ve bu araçların ince hatalar yapabileceğini, fakat operatörlerin yine de bu sistemlere aşırı güvendiğini belirtti.

Jacobs, “Yanlış karar vermenin bedeli siviller ve bu görevleri yerine getiren askerler için yıkıcı olabilir. Bu nedenle, ordunun yapay zeka kullanımına katı güvenlik sınırları koyması ve ölümcül güç kullanımında mutlaka bir insanın süreçte bulunmasını güvence altına alması gerekmektedir” dedi.

Palantir ise, şirketinin platformunun Pentagon’da karar alma süreçlerini aceleye getirdiği ve potansiyel olarak tehlikeli durumlar yarattığı yönündeki iddiaları reddetti.

Tam aksine, komutanların daha hızlı harekete geçmesini Maven’in sağladığı “arttırılmış verimliliğin bir sonucu” olarak değerlendirdi.

Pentagon, “operasyonel güvenlik” gerekçesiyle BBC’nin gelecekte Maven gibi yapay zeka sistemlerinin nasıl kullanılacağı veya sorunlar ortaya çıktığında kimin sorumluluk üstleneceği konusundaki sorularına yanıt vermekten kaçındı.

Ancak ABD’li yetkililerin, Maven’in sistemlere daha ileri düzeyde entegre edilmesine yönelik planları sürdürdüğü görülüyor.

Geçtiğimiz hafta Reuters, Pentagon’un Maven’i “resmi bir kayıt programı” olarak tanımladığını bildirdi. Bu durum, sistemin uzun vadede ABD ordusu genelinde entegre edilecek bir teknoloji statüsü kazanması anlamına geliyor.

Reuters tarafından elde edilen bir mektupta, Savunma Bakan Yardımcısı Steve Feinberg, platformun komutanlara “düşmanlarımızı tüm alanlarda tespit etmek, caydırmak ve baskı altına almak için gerekli en son araçları” sağlayacağını belirtti.

Jemimah Herd bu habere katkıda bulundu.

Bu haber, BBC gazetecileri tarafından hazırlandı ve kontrol edildi. Bir pilot proje kapsamında çevirisinde yapay zekadan da faydalanıldı.

BBC

Palantir’den Yapay Zeka İle İlgili Tartışmalı Açıklama
Yorum Yap

Tamamen Ücretsiz Olarak Bültenimize Abone Olabilirsin

Yeni haberlerden haberdar olmak için fırsatı kaçırma ve ücretsiz e-posta aboneliğini hemen başlat.

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Giriş Yap

Kral Galatasaray Haber ayrıcalıklarından yararlanmak için hemen giriş yapın veya hesap oluşturun, üstelik tamamen ücretsiz!