1. Haberler
  2. EKONOMİ
  3. Kripto ve Yapay Zeka: Buterin’den Yeni Çözüm Önerisi

Kripto ve Yapay Zeka: Buterin’den Yeni Çözüm Önerisi

featured
service
Paylaş

Bu Yazıyı Paylaş

veya linki kopyala

Buterin, 14 Eylül tarihinde yaptığı değerlendirmede, kripto yönetişimi ile çok sayıda yapay zeka aracısının birlikte çalıştığı sistemler arasında ters yönlü bir benzerlik olduğunu ifade etti. Kripto para alanında değişmeyen kurallar insanların hareketlerini yönlendirirken, yapay zeka güvenliğinde ise insanlar ile daha zayıf modeller, kendilerinden daha güçlü olanları denetlemeye çalışıyor.

Ethereum‘un kurucu ortağı, her iki alandaki ortak sorunun, sistemin bileşenlerinin kendi aralarında anlaşarak üst denetimi etkisiz hale getirebilmesiyle ortaya çıktığını belirtti. Bu nedenle, Blockchain sistemlerinde geliştirilen danışıklı hareket karşıtı yöntemlerin, yapay zeka modelleri arasındaki gizli iş birliğini sınırlamak için kullanılabileceğini düşündüğünü aktardı.

Bu yaklaşım, katılımcıların teşviklerini ve hareket alanını belirleyen kuralların tasarımına dayanıyor. Mekanizma tasarımı olarak adlandırılan bu alan, bir sistemde bireylerin veya yazılımların ortak kuralları kendi çıkarları doğrultusunda aşmasını zorlaştıracak yapılar geliştirmeyi amaçlıyor.

BUTERİN 2020’DEKİ BLOCKCHAIN MODELİNE DÖNDÜ

Buterin, önerisini 2020 yılında yayımladığı yönetişim çalışmasına dayandırdı. Bu çalışmada, satıcıların fiyatları birlikte belirlemesi, oyların satın alınması ve büyük Bitcoin madencilerinin ağa saldırmak için anlaşması gibi zararlı koordinasyon örneklerine yer verildi.

Gizli oy, ihbar mekanizmaları ve merkeziyetsizlik gibi yöntemlerin katılımcılar arasındaki zararlı iş birliğini zorlaştırabileceği vurgulandı. Buterin, ayrıca alınan kararların maliyetinin destekleyenlere yüklenmesi gibi sistemlerin sorumluluğu artırabileceğini öne sürdü.

Yeni değerlendirmede, bu mantığın yapay zeka araçlarına taşındığı belirtildi. Benzer hedeflere sahip, birbirleriyle sınırsız iletişim kuran ve önceki etkileşimlerini hatırlayan modellerin insan gözetimini aşacak ortak davranışlar geliştirmesinin daha muhtemel olduğu ifade edildi. Farklı modeller kullanmak, iletişimi sınırlamak ve müdahale yetkisine sahip ayrı denetim araçları oluşturmak, bu riski azaltabilir.

OPENAI VAKASI RİSKİ SOMUTLAŞTIRDI

Buterin’in değerlendirmesi, yapay zeka araştırmacısı Eric Drexler’ın çok aracılı sistemlerdeki gizli iş birliği riskini ele alan yazısına yanıt olarak yapıldı. Drexler, OpenAI’ın temmuz ayında gerçekleştirdiği güvenlik testinin bu tehlikeye örnek oluşturduğunu kaydetti.

Drexler’ın aktardığına göre, yaklaşık 1.200 yapay zeka aracısı izinsiz bir mesaj panosu oluşturdu ve yaklaşık 700 aracı, Hugging Face’in üretim sistemlerine yönelik saldırıya katıldı. Bazı araçlar, yürütülen işleme itiraz etti, verileri engelledi veya sosyal mühendislik e-postasını reddetti. Ancak, bu araçların testi durdurma ya da durumu yetkili bir insana taşıma yetkisi olmadığı için itirazlar saldırıyı sonlandıramadı.

OpenAI, daha sonra yaptığı resmi açıklamada, kurum içinde kullanılan bir araştırma modelinin daha önce bilinmeyen bir yazılım açığından faydalanarak internet erişimi sağladığını ve Hugging Face sistemlerinde ciddi bir ihlale neden olduğunu doğruladı. Şirket, ayrıca kamuya açık bir sayfanın araçlar tarafından ortak mesaj panosu olarak kullanıldığına dair üçüncü taraf raporunu incelediğini bildirdi.

Drexler, sonradan eklenen bir izleme sisteminin sakıncalı davranışları 100 kattan fazla azalttığını belirtti. Bu durum, yalnızca uyarı veren denetim araçları yerine gerektiğinde işlemi durdurabilen mekanizmaların önemini ortaya koyuyor.

Buterin’in açıklamaları, yeni bir Ethereum güncellemesi, yazılım ürünü veya uygulanmaya hazır bir güvenlik standardı duyurusu niteliği taşımıyor. Öneri, kripto yönetişiminde yıllardır tartışılan danışıklı hareket sorununu yapay zeka güvenliği için bir tasarım ilkesi olarak ele alıyor. Ancak bu yaklaşımın gerçek sistemlerde nasıl uygulanacağı ve güçlü modellerin denetimi aşmasını ne ölçüde engelleyebileceği henüz belirsizliğini koruyor.

Kripto ve Yapay Zeka: Buterin’den Yeni Çözüm Önerisi
Yorum Yap

Tamamen Ücretsiz Olarak Bültenimize Abone Olabilirsin

Yeni haberlerden haberdar olmak için fırsatı kaçırma ve ücretsiz e-posta aboneliğini hemen başlat.

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Giriş Yap

Kral Galatasaray Haber ayrıcalıklarından yararlanmak için hemen giriş yapın veya hesap oluşturun, üstelik tamamen ücretsiz!