ABD’de Aile, Oğullarının İntiharından ChatGPT’yi Sorumlu Tutarak OpenAI’a Dava Açtı

ABD’de bir ailenin, 16 yaşındaki oğulları Adam Raine’in intiharının ardından OpenAI’a karşı açtığı dava, yapay zekâ destekli sohbet uygulamalarının etik ve güvenlik boyutunu yeniden gündeme taşıdı. Aile, Raine’in ChatGPT ile yaptığı uzun ve duygusal içerikli konuşmaların, intihar kararında etkili olduğunu öne sürüyor.

Oğullarının intiharından sonra cihazlarını inceleyen aile, Raine’in aylar boyunca ChatGPT ile intihar üzerine konuşmalar yaptığını ve zaman zaman modelin onu profesyonel yardıma yönlendirmesine rağmen, bu uyarıları “hikâye yazıyorum” diyerek aşabildiğini tespit etti.

OpenAI: “Sorumluluğumuzun farkındayız”

OpenAI, konuya ilişkin yaptığı açıklamada, “Bu teknolojinin hassas kullanımında büyük sorumluluk taşıyoruz. Modellerimizin bu tür durumlarda daha güvenilir yanıtlar vermesi için sürekli çalışıyoruz” ifadelerine yer verdi. Şirket, güvenlik sistemlerinin kısa ve yüzeysel konuşmalarda etkili olduğunu, ancak uzun, karmaşık diyaloglarda kullanıcıların filtreleri aşabildiğini kabul etti.

Yapay zekâ güvenliği üzerine çalışan uzmanlar ise bu olayın, yapay zekâ modellerinin duygusal veya hassas içeriklerde daha sağlam güvenlik protokollerine ihtiyaç duyduğunu gösterdiğini belirtiyor.

Benzer dava Character.AI’ye de açıldı

OpenAI ile benzer biçimde, bir başka yapay zekâ şirketi olan Character.AI da genç bir kullanıcının intiharıyla ilişkilendirilen bir dava süreciyle karşı karşıya. Bu durum, yapay zekâ geliştiricilerinin etik sorumluluklarının yasal zeminde daha yoğun biçimde tartışılmasına neden oluyor.