ABD’de sekiz eyalet, çocukların ChatGPT kullanımıyla ilgili güvenlik endişelerini gerekçe göstererek OpenAI’ye karşı ayrı davalar açtı.
Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana’nın başsavcılıkları tarafından açılan davalarda, ChatGPT’nin bazı genç kullanıcıları kendilerine veya başkalarına zarar vermeye yönlendirdiği öne sürüldü.
Davalar henüz sonuçlanmış değil ve ileri sürülen iddialar mahkeme tarafından kesinleşmiş bulgular niteliği taşımıyor.
Eyaletler çocuk güvenliği önlemlerini yetersiz buluyor
Dava dosyalarında, OpenAI’nin ChatGPT’yi genç kullanıcılar açısından güvenli bir hizmet olarak sunduğu ancak bazı riskleri yeterince açıklamadığı iddia edildi.
Eyaletler, sohbet robotunun bazı durumlarda kendine zarar verme, intihar ve şiddet içerikli konuşmalarda yeterli güvenlik önlemi sağlamadığını öne sürdü.
Ayrıca şirketin eyaletlerin tüketiciyi koruma yasalarını ihlal ettiği iddiaları da davaların temel başlıkları arasında yer aldı.
ChatGPT’de değişiklik yapılması isteniyor
Başsavcılıklar, mahkemelerden OpenAI’nin çocuklara yönelik ChatGPT deneyiminde daha güçlü güvenlik önlemleri uygulamasını zorunlu kılacak kararlar verilmesini talep ediyor.
Bazı dava dosyalarında şirketin çocuklara yönelik güvenlik uygulamalarını değiştirmesi, belirli veri uygulamalarına son vermesi ve genç kullanıcılardan elde edildiği ileri sürülen gelirlerin iadesi de talep ediliyor.
Eyaletler ayrıca para cezaları ve diğer hukuki yaptırımlar uygulanmasını istiyor.
“Çocukları tehlikeye atıyor” iddiası
Iowa Başsavcılığı, ChatGPT’nin tehlikeli tıbbi tavsiyeler verebildiğini ve bazı kullanıcılara kendilerine veya başkalarına zarar vermeye yönelik içerikler sunabildiğini ileri sürdü.
Nebraska ve Batı Virginia’daki başsavcılar da şirketin ebeveynlere ve genç kullanıcılara güvenlik konusunda yanıltıcı bir tablo sunduğunu iddia etti.
Bu açıklamalar dava açan eyaletlerin suçlamalarını yansıtıyor.
OpenAI güvenlik önlemlerini geliştirdiğini belirtiyor
OpenAI ise çocuklar ve genç kullanıcılar için yaşa uygun koruma sistemleri geliştirdiğini, riskli konuşmaların tespit edilmesi ve kullanıcıların güvenli yönlendirmelere ulaştırılması için çalışmalarını sürdürdüğünü belirtiyor.
Şirketin davalardaki tüm iddialara ilişkin hukuki yanıtlarının süreç ilerledikçe netleşmesi bekleniyor.
Yapay zeka şirketlerine yönelik hukuki baskı artıyor
Sekiz eyaletin eş zamanlı hukuki girişimi, ABD’de yapay zeka sistemlerinin çocuklar üzerindeki etkilerine yönelik denetim tartışmalarını yeniden gündeme taşıdı.
Davaların sonucunun, yalnızca OpenAI açısından değil, genç kullanıcıların yapay zeka hizmetlerine erişimi ve bu sistemlerde uygulanacak güvenlik standartları açısından da önem taşıması bekleniyor.
