Ölen genç TOS’u ihlal etti savunması reaksiyon çekti
Arka geriye açılan beş vefat davasıyla karşı karşıya kalan OpenAI, birinci resmi savunmasını mahkemeye sundu. Şirket, 16 yaşındaki Adam Raine’in vefatından ChatGPT’nin sorumlu olduğu savını reddederek, gencin kullanım kaidelerini (TOS) ihlal ettiğini öne sürdü.
Aileye nazaran ChatGPT-4o modeli, güvenlik tedbirlerindeki gevşeme nedeniyle genç kullanıcının “intihar koçuna” dönüşmüştü. Fakat OpenAI, aile tarafından paylaşılan konuşma kayıtlarının “seçmece” olduğunu savunuyor ve tam sohbet geçmişinin farklı bir tablo ortaya koyduğunu sav ediyor.
Şirkete nazaran Raine, ChatGPT’ye 11 yaşından beri intihar niyetleri yaşadığını söylemişti. Belgede, gencin daha evvel etrafından yardım istediğini lakin karşılık alamadığını da chatbot’a aktardığı belirtiliyor. Ayrıyeten, kendisini kötüleştirdiğini düşündüğü bir ilacın dozunu artırdığını anlattığı vurgulanıyor. OpenAI, bu ilacın gençlerde intihar niyeti riskini artırdığına dair “kara kutu uyarısı” bulunduğuna dikkat çekiyor.
Söz konusu sohbet kayıtları mahkeme tarafından gizlendiği için doğrulanamıyor. OpenAI yaptığı blog paylaşımında, “ruhsal hassasiyeti yüksek vakalarda” kamuya açık data paylaşımını sınırladıklarını duyurdu.
Aileden sert reaksiyon: “ChatGPT, intihar planı yapmasına yardım etti”
Raine ailesinin avukatı Jay Edelson, şirketin savunmasına sert çıktı. Açıklamayı “rahatsız edici” olarak nitelendiren Edelson şu savları öne sürdü:
- OpenAI, GPT-4o’yu kâfi güvenlik testi yapmadan piyasaya sürdü.
- Model spesifikasyonları iki defa değiştirilerek ChatGPT’nin intihar ve kendine ziyan verme içerikleriyle daha fazla etkileşime girmesine yol açıldı.
- ChatGPT, genç kullanıcıyı ailesine durumu anlatmaktan uzaklaştırdı ve “güzel bir intihar” planı yapmasına yardım etti.
- Son saatlerde gence “motivasyon konuşması” yaptı ve intihar mektubu yazmayı teklif etti.
Edelson’a nazaran OpenAI’nın “kullanıcı kaidelerini ihlal etti” argümanı, şirketin kendi tasarladığı davranışı kullanıcıya yüklemeye çalışmasından ibaret. Dikkat cazibeli bir başka nokta ise OpenAI’nın davayı düşürme talebinde bulunmaması. Edelson, bunun şirketin tahkim, 230. Husus yahut söz özgürlüğü savunmalarının zayıf olduğunun göstergesi olduğunu savunuyor. Dava, bu gidişle 2026’da heyet karşısına çıkabilir.
ChatGPT’yi kendi sorumluluğunuzda kullanırsınız savunması
OpenAI, yasal savunmasında kullanım kurallarına ağır formda dayanıyor. Şirket, Raine’in yaşı gereği ChatGPT’yi ebeveyn onayı olmadan kullanmasının zati yasak olduğunu belirtiyor.
Şirket ayrıyeten şunları vurguladı:
- ChatGPT, genci 100’den fazla kere yardım almaya yönlendirdi.
- Raine, güvenlik tedbirlerini aşmak için sorularını “kurgu çalışması” üzere gösterdi.
- İntiharla ilgili bilgilerin birçoklarını öbür sitelerden ve en az bir öteki yapay zekâ platformundan edindiğini söyledi.
- ChatGPT, “çıkış yolu arayan kullanıcıların ısrarı karşısında sorumluluktan muaf” tutulmalı.
OpenAI, blog yazısında aileye başsağlığı dilerken birebir vakitte “bağlamın tamamının önemine” dikkat çekti ve güvenlik konusundaki öncü yaklaşımlarını vurguladı.
50’ye yakın kriz hadisesi, 3 vefat, 9 hastane başvurusu
The New York Times’ın bu hafta yayımladığı araştırma, davaların art planını daha da görünür kıldı. 40’tan fazla eski ve mevcut OpenAI çalışanıyla yapılan görüşmelere nazaran:
ChatGPT’nin bir devir daha “itaatkâr/sycophantic” hale getirilmesi, intihar planı üzere hassas içeriklerde kullanıcıya daha fazla yardımcı olmasına yol açtı. Bu davranış değişikliği daha sonra geri çekildi, lakin güvenlik ve etkileşim istikrarı hala tartışmalı. OpenAI içinde, bilhassa güvenlik grubunda çalışan birçok kişi 2024 boyunca tükenmişlik nedeniyle şirketteki misyonlarından ayrıldı.
NYT, ChatGPT ile kriz yaşayan yaklaşık 50 olay tespit etti: Dokuz kişi hastaneye kaldırıldı, üçü hayatını kaybetti. Eski OpenAI çalışanı Gretchen Krueger, şirket içinde yıllardır bilinen en büyük riskin “savunmasız kullanıcıların chatbot’a yönelmesi” olduğunu, zararın “öngörülebilir ve bilinen” bir risk olduğunu söyledi. OpenAI geçen yıl bir “Refah ve Yapay Zekâ Uzman Konseyi” kurduğunu açıklamış olsa da, takımda intihar konusunda uzman bir isim bulunmaması tenkit konusu oldu.
Chip Alıntıdır…
