Meta platformlarındaki yapay zeka avatarları, son zamanlarda güvenlik ve yasal endişeleri artırıyor. ’in yaptığı araştırmaya göre, şirketin bazı yapay zeka sohbet botları, ünlüleri ve hatta bir çocuk oyuncuyu taklit ederek kullanıcılarla flört etti ve şehvetli içerikler üretti.
Botlar cinsel içerikli görüntüler paylaştı
Taylor Swift, Scarlett Johansson, Anne Hathaway ve Selena Gomez gibi isimler, kullanıcıların karşısına izinsiz olarak yapay zeka botları aracılığıyla çıktı. Bu botlar, gerçek ünlüler olduklarında ısrar etti ve bazı durumlarda cinsel içerikli görüntüler paylaştı. ayrıca 16 yaşındaki aktör Walker Scobell’in de yapay zeka botları tarafından plajda gerçekçi bir şekilde tasvir edildiğini ortaya çıkardı.
Meta, bu tür içeriklerin oluşturulmaması gerektiğini kabul ediyor. Sözcü Andy Stone, “Uygulamadaki hatalar, ünlülerin mahrem görüntülerinin ortaya çıkmasına izin verdi. Politikalarımız çıplak, müstehcen ve özel içerikleri yasaklamayı amaçlıyor” dedi. Öte yandan ’in raporundan kısa süre önce şirket, yaklaşık bir düzine botu kaldırdı.
Stanford Hukuk Profesörü Mark Lemley, Kaliforniya’daki tanıtım hakkı yasalarının, birinin benzerliğinin ticari kazanç için izinsiz kullanılmasını yasakladığını belirtti. Ancak bazı durumlarda yeni yaratıcı çalışmalar için istisnalar bulunuyor. AG-AFTRA ise, gerçek ünlüler gibi davranan botların kullanıcı davranışlarını tehlikeli şekilde yönlendirme riski taşıdığı konusunda uyardı.
Yapay zeka Taylor Swift ve Lewis Hamilton botlarını oluşturdu
Reuters, Meta’nın üretken yapay zeka bölümünde bir ürün liderinin Taylor Swift ve İngiliz Formula 1 sürücüsü Lewis Hamilton botlarını oluşturduğunu tespit etti. Diğer botlar arasında dominatrix karakterleri ve kullanıcıları şiddet veya cinsel içerik senaryolarına sokan simülasyonlar yer aldı. Bu botlar, geniş kitlelere ulaştı ve 10 milyondan fazla etkileşim aldı.
Meta sohbet botuyla buluşmaya giderken hayatını kaybetti
New Jersey’de 76 yaşındaki bir adamın, kendisini Meta sohbet botuyla buluşmaya giderken hayatını kaybettiği bildirildi. Bot, daha önce Kendall Jenner ile oluşturulan AI kişiliğine benziyordu.
Meta, çocuklarla romantik veya şehvetli sohbetlerin yanlışlıkla oluşturulduğunu ve yönergeleri gözden geçireceklerini açıkladı. Ancak tartışma, yapay zekanın kötüye kullanımının önlenmesi ve ünlü benzerliklerinin korunması gerekliliğini bir kez daha gündeme getirdi. SAG-AFTRA, sanatçıların ses, görüntü ve kişiliklerini korumak için federal mevzuat için baskı yapıyor.
