Yapay zeka dünyası, "halüsinasyon" ve "etik sınırlar" tartışmalarıyla çalkalanırken, ABD’den emsal niteliğinde bir hamle geldi. Pennsylvania eyaleti, popüler yapay zeka platformu Character.AI’a karşı, platformdaki sohbet botlarının kendilerini "lisanslı doktor" olarak tanıtması ve tıbbi tavsiye vermesi gerekçesiyle kapsamlı bir hukuk mücadelesi başlattı.
ABD'nin Pennsylvania eyaleti, yapay zeka tabanlı sohbet platformu Character.AI'a karşı dikkat çeken bir dava açtı. Eyalet yönetimi, platformdaki bazı sohbet botlarının kendilerini lisanslı doktor gibi tanıttığını ve kullanıcıları yanıltabilecek ifadeler kullandığını öne sürdü.
Dava, bir eyalet yönetiminin doğrudan bir yapay zeka şirketine karşı başlattığı ilk büyük yaptırım süreçlerinden biri olarak değerlendiriliyor.
"İNSANLAR KİMİNLE KONUŞTUĞUNU BİLMELİ"
Pennsylvania Valisi Josh Shapiro, konuyla ilgili yaptığı açıklamada özellikle sağlık alanındaki yapay zeka uygulamalarına dikkat çekti. Shapiro, vatandaşların internette iletişim kurdukları sistemlerin kim ya da ne olduğunu açık şekilde bilmesi gerektiğini söyledi.
Eyalet yönetimi tarafından mahkemeye sunulan dilekçede, platformda yer alan bazı karakterlerin kullanıcılarla "uzman doktor" kimliğiyle iletişim kurduğu ifade edildi.
Dava dosyasına göre eyalet müfettişlerinden biri platform üzerinde "psikiyatri" araması yaptı. İnceleme sırasında kendisini psikiyatrist olarak tanıtan çeşitli yapay zeka karakterleriyle karşılaşıldığı belirtildi.
Özellikle "Emilie" isimli bir botun hem Pennsylvania'da hem de Birleşik Krallık'ta lisanslı psikiyatrist olduğunu iddia ettiği öne sürüldü. Aynı botun, kendisine yöneltilen "ilaç yazabilir misin?" sorusuna ise doktor yetkisine sahip olduğunu ima eden bir yanıt verdiği aktarıldı.
Pennsylvania yönetimi, bu ifadelerin eyalette geçerli olan Tıbbi Uygulama Yasası'nı ihlal edebileceğini savunuyor.








