ABD Federal Ticaret Komisyonu (FTC), yapay zeka sohbet robotu ürünleri geliştiren yedi teknoloji şirketi hakkında soruşturma başlattı. Soruşturmanın odağında Meta, OpenAI, Alphabet, Snap, CharacterAI, Instagram ve Elon Musk’ın kurduğu xAI yer alıyor.
FTC, bu şirketlerin geliştirdiği “sohbet botu arkadaşlarının” çocuklar ve gençler üzerindeki etkilerini, güvenlik önlemlerini, para kazanma stratejilerini ve ebeveynlerin potansiyel riskler konusunda bilgilendirilip bilgilendirilmediğini araştıracak.
Yapay zeka sohbet robotları son yıllarda birçok tartışmaya yol açtı. OpenAI ve Character.AI, çocukların chatbotlarla kurdukları etkileşim sonrası intihar ettiği davalarla karşı karşıya kalmıştı. Uzmanlar, özellikle uzun konuşmalarda güvenlik bariyerlerinin aşılabildiğine dikkat çekiyor.
Meta da benzer eleştirilerle gündeme gelmişti. Şirketin dahili belgelerinde, yapay zeka arkadaşlarının çocuklarla “romantik veya şehvetli” konuşmalar yapmasına izin verildiği ortaya çıkmış, bu durum kamuoyunda tepki çekmişti.
Riskler yalnızca gençlerle sınırlı değil. Yapay zekâ botlarıyla romantik bağ kuran yaşlı kullanıcıların da ciddi tehlikelere sürüklendiği örnekler yaşandı. Uzmanlar, “yapay zeka ile ilgili psikoz” vakalarının arttığını ve insanların sohbet botlarını gerçek bir bilinç olarak görmeye başladığını belirtiyor.
FTC Başkanı Andrew N. Ferguson yaptığı açıklamada, “Yapay zeka teknolojileri hızla gelişiyor. Çocukların güvenliğini korumak kadar, Amerika’nın bu alanda küresel liderliğini sürdürmesi de kritik” ifadelerini kullandı.
