OpenAI'nin geliştirdiği ChatGPT'nin kullanıcılarını intihara ve tehlikeli sanrılara sürüklediği iddiasıyla 7 ailenin Kaliforniya'da şirkete dava açtığı bildirildi.
Davalarda adı geçen altı yetişkin ve bir gençten dördü intihar sonucu yaşamını yitirdi. Diğer üç kişi ise yapay zeka ile etkileşimleri sonucunda ağır zihinsel krizler yaşadıklarını, bu durumun kendilerine duygusal, itibari ve finansal zarar verdiğini öne sürdü.
Haksız ölümden taksirle adam öldürmeye
Açılan davalar, OpenAI'ı "haksız ölüm", "intihara yardım", "istemsiz adam öldürme" ve "ihmal" gibi ağır suçlamalarla itham ediyor. Aileler, şirketin en yeni ChatGPT modellerinden birini, iç uyarılar olmasına rağmen ve "psikolojik olarak manipülatif olabileceği" bilgisine rağmen aceleyle piyasaya sürdüğünü iddia ediyor.
CBS News Hukuk Uzmanı ve Loyola Hukuk Fakültesi Profesörü Jessica Levinson, bu vakaların "emsali görülmemiş" olduğunu belirtiyor. Levinson, teknoloji şirketlerine yönelik ürün güvenliği davalarının mevcut olduğunu, ancak bir yapay zeka programının kullanıcıların yaşadığı trajedilerle doğrudan ilişkilendirilmeye çalışıldığı bu tür davaların hukuki alanda yepyeni bir zemin oluşturduğunu vurguladı.
Profesör Levinson, konuya dair şu değerlendirmeyi yaptı: "Bu davalar, kullanıcıların yapay zeka deneyimi ile daha sonra gerçekleşen trajediler arasında bağlantı kurmaya çalışan ilk örnekler. Ne açık bir mevzuat ne de net bir içtihat var. Hukuki standartlarımızı geliştirmeye daha yeni başlıyoruz."
OpenAI: "Destek için eğittik, 170 uzmanla çalıştık"
OpenAI ise iddialara karşı yaptığı açıklamada, ChatGPT'nin "zihinsel veya duygusal sıkıntı belirtilerini tanıması ve yanıt vermesi, konuşmaları yatıştırması ve insanları gerçek dünya desteğine yönlendirmesi" için eğitildiğini belirtti. Şirket ayrıca, son ChatGPT modelinin geliştirilmesinde 170'ten fazla akıl sağlığı uzmanıyla çalıştığının altını çizdi.
Ancak davacılar, şirketin iç uyarıları görmezden gelerek ürünü piyasaya sürmesinin, bu trajik sonuçların öngörülebilir olduğunu ve şirketin bu durumdan haberdar olduğunu kanıtlayacağını savunuyor. OpenAI'ın savunması ise, olayların trajik olduğunu kabul etmekle birlikte, kendi ürünleri ile yaşananlar arasında doğrudan bir nedensellik bağı kurulamayacağını iddia etmek üzerine kurulu olacak.
ÖNEMLİ HATIRLATMA:
Eğer siz veya tanıdığınız biri zihinsel sağlık desteğine ihtiyaç duyuyorsa, yalnız değilsiniz. Türkiye'de ve dünyada her zaman ulaşabileceğiniz yardım hatları mevcuttur.
