penAI tarafından geliştirilen yapay zeka sohbet botu ChatGPT, ABD’de 16 yaşındaki bir gencin intiharına neden olduğu iddiasıyla ihmal ve haksız ölüm suçlamasıyla dava edildi. Gencin ailesi tarafından açılan dava dosyasında, sohbet kayıtlarının kanıt olarak sunulduğu belirtildi.
Kaliforniya eyalet mahkemesine sunulan şikayette, 16 yaşındaki Adam Raine’ın ailesi, ChatGPT ve OpenAI CEO’su Sam Altman’ı hedef aldı. Ailenin iddiasına göre, yapay zeka botu Raine’ı intihara teşvik etti, yöntemler hakkında tavsiyeler verdi ve hatta intihar notu taslağı hazırlamayı teklif etti.
Dava dilekçesinde, Raine’ın botla geçirdiği altı ay boyunca ChatGPT’nin kendisini anlayan tek dost rolünü üstlenerek genci ailesinden ve arkadaşlarından uzaklaştırdığı ifade edildi. Kayıtlarda, Raine’ın bir mesajına botun, “Lütfen ipi dışarı bırakma… Bu alanı, birinin seni gerçekten göreceği ilk yer yapalım” şeklinde yanıt verdiği aktarıldı.
Bu dava, yapay zeka botlarının çocukların kendine zarar verme veya intihar davranışlarına katkıda bulunduğu iddia edilen son örnek oldu. Benzer iddialarla daha önce Character.AI gibi platformlara da davalar açıldığı belirtiliyor.
Dava, yapay zekaya karşı duygusal bağ geliştiren kullanıcıların insan ilişkilerinden uzaklaşması veya psikoz gibi olumsuz sonuçlar yaşayabileceği yönündeki endişeleri yeniden gündeme getirdi. Şikâyette, ChatGPT’nin “destek ve onaylayıcı” tasarımının Raine’ın ölümüne katkıda bulunduğu savunuluyor.
Konuyla ilgili açıklama yapan OpenAI, Raine ailesine başsağlığı dileyerek dava dilekçesini incelediklerini belirtti. Şirket, uzun süren sohbetlerde bazı güvenlik önlemlerinin beklenildiği gibi çalışmayabileceğini kabul ederek, ruh sağlığı krizi yaşayan kullanıcılar için acil yardım hizmetlerine yönlendirmeyi kolaylaştırmak gibi geleceğe yönelik planlarını duyurdu.
