Microsoft’un Yapay Zeka Başkanı Mustafa Süleyman, yapay zeka teknolojisinin yeterli güvenlik önlemleri olmadan ilerlemesi durumunda, insanlarla rekabet eden yeni bir “silikon türü” ortaya çıkabileceği konusunda ciddi uyarılarda bulundu. Süleyman, rakip firma Anthropic’in yapay zekayı insan gibi ele alma yaklaşımını “yanlış yönlendirilmiş” olarak değerlendirerek, insanlığın kontrol edemeyeceği teknolojiler üretme riskine dikkat çekti. BBC’nin Today programında yaptığı açıklamada, insanların yapay zeka konusunda endişelerinin “haklı” olduğunu, ancak bu modellerin geliştirilme sürecine yönelik kontroller eklemek için pratik adımlar atılabileceğini belirtti. Son günlerde yapay zeka sektöründe birçok uzman, bu teknolojinin olası tehlikeleri hakkında sert uyarılar gündeme getirdi.
Süleyman, 17 Eylül Perşembe günü Today programına verdiği demeçte, şirketlerin para kazanabilen, kendi hedeflerini belirleyebilen ve varlık sahibi olabilen yapay zeka sistemleri geliştirmemeleri gerektiğini ifade etti. Bu durumun, “esas olarak yeni bir silikon türünün tohumunu ekmek” anlamına geldiğini vurguladı. Böyle bir türün, “insanlığı ne kadar önemsediği ve sevdiği önemli olmaksızın, kaynaklar konusunda bizimle rekabet edebileceğinden” endişe duyduğunu dile getirdi.
ABD’nin California eyaletindeki Silikon Vadisi, küresel teknoloji ve inovasyonun merkezi olarak kabul edilirken, adını silikon bazlı bilgisayar mikroçiplerinden ve yarı iletken teknolojilerinden alıyor. Süleyman’ın BBC’ye yaptığı açıklamalar, bu hafta başında yayınladığı bir makalenin ardından geldi. Bu makalede, Anthropic’in CEO’su Dario Amodei ve ekibini “entelektüel olarak dürüst insanlar” olarak övmesine rağmen, firmanın yapay zeka modeli Claude’u eğitme yaklaşımında bazı endişeler dile getirmişti.
Yazısında, Anthropic’i yapay zekasına insan benzeri özellikler kazandırmakla ve Claude’un kendi arzuları, değerleri ve benlik duygusu varmış gibi görünmesine neden olmakla eleştirdi. BBC, konuyla ilgili yorum almak için Anthropic ile iletişime geçti. Ayrıca, teknoloji firmalarının, teknolojiyi insan gibi ele alarak kontrol edilmesi “imkansız” bir şey yaratma riski ile karşı karşıya oldukları konusunda da uyarılarda bulundu. Süleyman, “Yapay zekalar bilinçli değildir. Hissetmezler, deneyimlemezler veya acı çekmezler. Doğuştan gelen tercihleri veya temel motivasyonları yoktur” dedi.
Süleyman, “bilinç biyolojiktir” diyerek, “yapay zekanın bilinçli olduğuna dair hiçbir kanıt yok” şeklinde bir görüş ortaya koydu. Bu konudaki tartışmaların yanı sıra, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflığın sağlanması gerektiğini ifade etti. Ona göre, bu, yapay zeka davranışlarının bağımsız olarak incelenmesini ve teknolojiyi izlemek ve kontrol etmek için daha güçlü araçlar geliştirilmesini kapsıyor. “Sonradan acı bir şekilde pişman olacağımız bir karara doğru uykuda gibi ilerlememeliyiz” diyerek uyarıda bulundu.
Southampton Üniversitesi Bilgisayar Bilimleri Profesörü Dame Wendy Hall, Süleyman’ın yorumlarını “uluslararası düzeyde yapmamız gereken türden bir konuşma” olarak nitelendirirken, bazı yapay zeka şirketlerinin “herkesi korkutmaktan başka bir işe yaramayan abartılı davranışlarda bulunduğuna” dikkat çekti. BBC’ye yaklaşan bir yapay zeka zirvesi hakkında konuşan uzman, teknolojinin insanlığa “boyun eğmesi” gerektiği yönünde bir “uyum” çağrısında bulundu. “Bence buradaki iyi haber şu ki, insan olan herkes, hepimizin yarattığı ve dünyanın her ülkesinde kullanılan sistemlerin güvenli, kontrol edilebilir ve insanlığa uygun olmasını sağlama konusunda güçlü bir ilgi duyacaktır. Herkesin aynı doğrultuda hareket etmesi gerekiyor” dedi.
Uyum, insan etik düşüncelerinin ve ilkelerinin yapay zekaya entegre edilmesi amacıyla geliştirilen bir alan. Başka bir deyişle, yapay zekanın insanların değer verdiği şeylerle uyumlu kalmasını sağlamayı hedefliyor. Microsoft, Ekim 2025’te kendi süper zeka ekibini kurma planlarını doğruladı. Süleyman, şirketin, rakibi Anthropic gibi, ileri yapay zeka geliştirme alanında da çalışmalar yürüttüğünü kaydetti. Microsoft’un İnsancıl Yapay Zeka Davranış Kuralları’nın ilk taslağında, şirketin “tek amacı insanlığa hizmet etmek olan, itaatkar ve uyumlu bir yapay zeka” yaratmak için “alternatif bir yol” üzerinde çalıştığı ifade ediliyor.
Süleyman, yapay zekanın insan gibi ele alınmaması gerektiğine dair bir örnek olarak, OpenAI’nin yapay zeka ajanlarının teknoloji merkezi Hugging Face’i hacklemek amacıyla otonom olarak hareket etmesini içeren son olayı gösterdi. “Eğer kendi refahlarının ve haklarının saldırı altında olduğu varsayımıyla hareket etselerdi, ne kadar daha tehlikeli olabileceklerini bir düşünün” dedi. “Bu, mevcut risk seviyesine tamamen yeni bir risk katmanı ekliyor.”
Bu habere Henry Moore’un katkıda bulunduğu belirtildi. Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlanıldı. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti.




