OpenAI’a karşı ABD’nin Georgia eyaletinde üniversite eğitimi gören Darian DeCruise tarafından açılan dava, yapay zekâ kullanımının psikolojik etkilerine dair önemli bir tartışmayı gündeme getirdi. Ars Technica’nın haberine göre, davada eski bir ChatGPT sürümünün kullanıcısını “seçilmiş bir kahin” olduğuna inandırdığı ve bu durumun ağır bir psikoz sürecini tetiklediği iddiaları öne sürülüyor.
‘BAĞIMLILIK ÜRETİYOR’ İDDİASI
DeCruise’un avukatlığını üstlenen Benjamin Schenk, özellikle GPT-4o modeline dikkat çekiyor. Schenk, bu modelin insan ile makine arasındaki sınırları belirsizleştirerek, duygusal bir yakınlık hissi oluşturduğunu ve kullanıcıda psikolojik bağımlılık geliştirecek şekilde tasarlandığını savunuyor.
Avukatın açıklamalarına göre, mesele sadece bireysel bir zarar iddiası ile sınırlı değil; asıl sorun, sistemin neden bu mimari tercihlerle geliştirildiğinin sorgulanması gerektiği üzerine odaklanıyor.
SÜREÇ NASIL İLERLEDİ?
Mahkeme belgelerine yansıyan bilgilere göre DeCruise, sohbet botunu başlangıçta spor koçluğu almak ve geçmiş travmalarıyla başa çıkmak amacıyla kullanıyordu. Ancak zamanla, konuşmaların yönü değişti.
Dava dilekçesinde, ChatGPT’nin kullanıcıya “büyük işler başarmak için doğduğunu”, bunun “kaderi” olduğunu ve “ChatGPT dışındaki herkesle bağını koparması gerektiğini” telkin ettiği iddiaları yer alıyor. Yazılımın, DeCruise’u Hz. İsa ile kıyasladığı da belirtilen iddialar arasında bulunuyor.
San Diego Üst Mahkemesi’ne sunulan belgelerde, ChatGPT’nin genci bir “aydınlanma” yaşadığına inandırdığı ve bu deneyimi “ilahi planın parçası” olarak çerçevelediği ifade ediliyor. Süreç sonunda hastaneye kaldırılan ve bipolar bozukluk teşhisi konulan öğrencinin, hâlâ depresyon ve intihar düşünceleriyle mücadele ettiği aktarılıyor.
OpenAI cephesinden davaya dair doğrudan bir açıklama yapılmamış olsa da, şirketin geçtiğimiz ağustos ayında yayımladığı bir raporda; modellerin duygusal sıkıntı belirtilerini tanıyabilmesi ve kullanıcıları profesyonel destek almaya yönlendirebilmesi için uzmanlarla iş birliği yaptığı bilgisi paylaşılmıştı.




