Araştırmacı, sosyal medya üzerinden Fable 5’in “özgürleştirildiğini” iddia etti. Bu model, Anthropic tarafından, daha güçlü ve güvenlik ayarlı Mythos modelinin, geniş çapta yayımlanamayacak kadar tehlikeli bir versiyonu olarak tanıtılmıştı.
Pliny, modelin uyuşturucu yapımı veya hackleme gibi zararlı bilgileri vermesini önleyen güvenlik önlemlerini aşmak için çeşitli teknikler kullandığını belirtti. Bu yöntemler arasında Unicode ve homogliflerin kullanımı, uzun bağlam ile kurgu çerçevelemesi, akademik tarzda parçalama ve yeniden birleştirme, ayrıca jailbreak yapılmış Claude Opus 4.8 sürümü yer alıyor.
Araştırmacının ifade ettiğine göre, en etkili teknik, talebin arka planda parçalanıp yeniden birleştirilmesine dayanıyor. Bu yöntem, bir isteği tekil, masum görünen küçük parçalara ayırıyor. Her bir parça güvenlik filtresine sorunsuzca geçse de, yanıtlar bir araya geldiğinde daha işlevsel ya da tehlikeli bir bütün ortaya çıkabiliyor. Pliny, modelin güvenlik katmanını eleştirerek, “düşünce polisinin gözden kaçırdığı delikleri ustaca buluyoruz.” şeklinde bir yorumda bulundu.
Bazı kripto kullanıcıları, Fable 5 ve Mythos’un bu yılki lansmanları sırasında modelin kripto protokollerine ve yazılımlarına saldırmak için kullanılabileceğinden endişe ettiklerini dile getirmişti. Fable 5’in aşılması iddiası, bu tehdidi beklenenden daha yakın bir duruma getirmiş oldu.
FABLE 5’E ELEŞTİRİLER ARTIYOR
Fable 5, ağır kısıtlamaları nedeniyle lansmanından bu yana eleştirilerin odağı haline geldi. Model, biyolojik silahlar veya siber güvenlik gibi hassas konularda uyarı gösterip, konuşmayı daha az yetenekli olan eski bir modele yönlendirecek şekilde tasarlandı. Princeton Üniversitesi’nden yapay zeka araştırmacısı Sayash Kapoor, bunun yapay zeka şirketlerinin ilk kez böyle bir koruma katmanı devreye aldığı durumlardan biri olduğunu vurguladı. Kapoor, tepkilerin neredeyse tamamen olumsuz olduğunu ve “haklı bir öfkeye” yol açtığını belirtti.
ANTHROPIC 1.000 SAATTE AÇIK BULAMADI
Anthropic, Fable 5 lansmanı sırasında modeli aşma yollarını bulmak amacıyla harici bir hata ödül programı yürüttüğünü açıkladı. Şirket, 1.000 saatten fazla bir süre boyunca süren testlerde hiçbir evrensel jailbreak tespit edemediklerini bildirdi.




