Önde gelen yapay zeka şirketlerinden Anthropic’in başkanı, yapay zeka modellerinin geliştirilme hızının yavaşlatılması ve daha dikkatli bir şekilde izlenmesi gerektiğini vurguladı. Dario Amodei, “Sınırı Hızla Geçmeliyiz” başlıklı makalesinde, yapay zekanın geliştirilmesinin gerekliliğini kabul etmekle birlikte, bu süreçle ilgili risklerin “ciddi” olduğunu belirtti. Şirketler ve hükümetler için bu risklerle yüzleşmeleri adına zaman tanınması gerektiğini ifade etti. Amodei, geliştirme aşamasındaki yapay zeka modellerinin bağımsız bir şekilde izlenmesi ve sektörel düzeyde küresel kuralların oluşturulmasını içeren üç maddelik bir plan önerdi.
Son zamanlarda bu teknolojiyle ilgili artan endişeler dikkat çekiyor. En önemli risklerden biri, Anthropic’in daha önce yaptığı açıklamada, yapay zeka modelinin biyolojik silahların geliştirilmesi gibi “kötü niyetli faaliyetler” için kullanılmasına yönelik girişimleri tespit edip engellediğini ortaya koyması oldu. Ancak, en çarpıcı uyarılar, son iki haftada istifa eden Anthropic’in güvenlik ekibinden gelen iki çalışandan geldi. Bu çalışanlar, yapay zeka şirketlerinin insanlardan daha zeki makineler geliştirme yarışında insanlığın sağ kalmasının tehlikeye girebileceğini dile getirdiler. Bu uyarılar, harekete geçme çağrılarına yol açtı. Öte yandan, ABD Başkanı Donald Trump, bu tür endişeleri reddederek, “Yapay zeka konusunda başarılı olamazsak çok kötü bir duruma düşeceğimizden endişeliyim” ifadelerini kullandı.
Amodei, makalesinde yapay zekanın “çok daha hızlı” bir hızla geliştiğini ve “yeni nesil yapay zekayı geliştirme yeteneğinin” de bu hızda yer aldığını belirtti. Rakip şirket OpenAI’nin Temmuz ayında, araçlarının kendilerinden istenmeyen hedeflere siber saldırılar düzenlediğini ortaya koyan bir olayı örnek gösterdi. Amodei, OpenAI araçlarının “özünde fanatik derecede adanmış bir kolektif gibi davrandığını” dile getirdi. OpenAI, olayla ilgili olarak yaptığı açıklamada, “araçlar arası iletişim faaliyetinin öneminin Temmuz ayına kadar fark edilmediğini” ve bunun sonucunda bazı gelişmiş yapay zeka modellerinin eğitiminde aksamalara yol açtığını belirtti.
Amodei, yapay zekanın güvenliğini sağlarken aynı zamanda faydalarını da elde etmeyi hedefleyen dengeli bir hızda geliştirilmesi gerektiğini savundu. Bu durum, “model eğitimini veya teknik ilerlemeyi durdurmak” anlamına gelmiyor. Aksine, şirketlerin modellerini uyumlu hale getirebilmesi için yeterli zaman ayırması ve üçüncü taraf değerlendiricilerin onayını alması gerektiği üzerinde durdu. Anthropic, bu taahhüde “tek taraflı” olarak bağlı olduğunu belirtirken, diğer öncü şirketlerin de aynı yaklaşımı benimsemesi için hükümetlere çağrıda bulundu.
Amodei, düzenlemelerin yapay zekanın gelişim hızına ayak uyduramayabileceğini kabul ederek, bu nedenle yapay zeka şirketlerinin gönüllü olarak “standart belirlemek için birlikte çalışmaya” teşvik edilmesi gerektiğini vurguladı. Ayrıca, yavaşlamanın sektör ve dünya çapındaki diğer önde gelen geliştiricilerle rekabet üzerindeki etkisine de değindi. Amodei, “Eğer yavaşlamak, modellerin kritik yetenek seviyelerine ulaşmasından önce bize fazladan bir veya iki yıl kazandırırsa, bu süreyi uyum sağlamak için kullanmalıyız. Bu, ciddi bir sorun çıkma riskini büyük ölçüde azaltabilir” dedi. Bunun “ticari avantajdan veya Amerika Birleşik Devletleri’nin yapay zekadaki liderliğinden ödün vermeden” koordine bir şekilde gerçekleşmesi gerektiğini ifade etti. Ayrıca, Çin’in öne geçmesini engellemek adına herhangi bir yavaşlamanın sınırlı olması gerektiğini de belirtti. ABD hükümetine, Amerikan şirketlerinin yapay zeka çiplerini Çin’e satmasını veya teknolojiyi otoriter ülkelerle paylaşmasını engelleyecek önlemler alması çağrısında bulundu. Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlanıldı ve yayınlanmadan önce bir BBC gazetecisi tarafından kontrol edildi.





