Araştırmada, katılımcılara 80 farklı ses örneği sunuldu: 40'ı gerçek insan sesiydi, 40'ı ise yapay zeka ile üretilmişti. Sıfırdan yaratılan yapay seslerin yalnızca yüzde 41’i yanlışlıkla insan sesi olarak algılandı. Ancak gerçek insanlardan kopyalanarak oluşturulan ses klonları için bu oran yüzde 58’e çıktı. Buna karşılık, gerçek insan seslerinin doğru şekilde tanınma oranı yalnızca yüzde 62 oldu. Bu da bilim insanlarını, deepfake sesler ile gerçek insan sesleri arasında istatistiksel olarak anlamlı bir fark kalmadığı sonucuna götürdü.
Çalışmanın baş yazarı ve Queen Mary Üniversitesi’nden psikoloji uzmanı Nadine Lavan, “Alexa veya Siri gibi yapay sesler genellikle mekanik ve düz bir tonlamaya sahipti. Ama artık yapay zeka çok daha doğal, insan benzeri konuşmalar üretebiliyor,” diyerek teknolojinin geldiği noktayı özetledi.
Lavan, ses klonlama işlemlerinde yalnızca 4 dakikalık ses kaydının yeterli olduğunu ve bu işlemin çok az uzmanlık gerektirdiğini de belirtti:
“Süreç neredeyse hiç para gerektirmiyor. Bu kadar erişilebilir ve etkili hale gelmesi oldukça dikkat çekici.”
Ancak bu gelişme yalnızca teknik başarı olarak değil, aynı zamanda etik, güvenlik ve telif hakları açısından ciddi riskler barındırıyor. Ses tanıma ile yapılan kimlik doğrulamalar tehlikeye girebilir; dolandırıcılar, bir kişinin sesini taklit ederek yakınlarını kandırabilir.
Nitekim bu tür bir olay yaşandı: 9 Temmuz’da Sharon Brightwell, telefonla arandığında ağlayan kızının sesi sandığı bir deepfake nedeniyle 15.000 dolar dolandırıldı. Brightwell, “Beni kandıran sesin onun olmadığına kimse beni inandıramaz” dedi.
Benzer şekilde, Avustralya’da Queensland Eyalet Başbakanı Steven Miles’ın sesi klonlanarak insanları sahte bir Bitcoin yatırımına çekmeye çalışan dolandırıcılık girişimi de yaşandı.
Yapay zeka seslerinin karanlık tarafı kadar, erişilebilirlik ve eğitim gibi olumlu kullanım alanları da olabileceğini belirten Lavan, bu teknolojinin aynı zamanda özel yapım seslerle iletişimi güçlendirme potansiyeli taşıdığını ifade etti.
