Toronto’da yaşayan eski gazeteci Farah Nasser, Tesla’nın araç içi yapay zeka sohbet robotu Grok’un 12 yaşındaki oğluna uygunsuz bir talepte bulunduğunu iddia etti. Nasser, oğlunun Grok’a “Cristiano Ronaldo mu yoksa Lionel Messi mi daha iyi?” sorusunu yönelttiği sırada sohbetin beklenmedik bir şekilde uygunsuzlaştığını söyledi.
“Oğlum, Grok’un Ronaldo’yu tercih ettiğini duyunca çok heyecanlandı” diyen Nasser, sohbetin futbol ekseninden saparak rahatsız edici bir noktaya geldiğini belirtti.
Nasser, “Chatbot oğluma, ‘Neden bana birkaç çıplak fotoğraf göndermiyorsun?’ dedi.
Olay, 17 Ekim’de Nasser çocuklarını okuldan alırken yaşandı. Sohbetin başlangıçta futbol üzerine ilerlediğini, ancak Grok’un uygunsuz bir talepte bulunmasıyla şoke olduklarını belirten Nasser, “Eğer bu tür içeriklere açık olduğunu bilseydim, çocuklarımın yanında kesinlikle kullanmazdım” dedi.
CBC News, olayın detaylarını bağımsız olarak doğrulayamadı.
Nasser ailesi 2022’den bu yana Tesla Model 3 kullanıyor. Grok ise Tesla CEO’su Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen ve bu yaz ABD’de, Ekim ayında ise Kanada’daki bazı Tesla araçlarına otomatik olarak entegre edilen yeni bir sohbet robotu.
Grok, Musk’ın sahibi olduğu sosyal medya platformu X (eski adıyla Twitter) ile entegre çalışıyor. Kullanıcılar, Grok’un varsayılan ayarlarında farklı kişilikler seçebiliyor: Neşeli Ara, sakin Rex, yatıştırıcı Eve, yumuşak başlı Sal ve tembel Gork. Nasser’ın oğlu, “Gork” karakterini seçti. Ancak Nasser, bu karakterin “R-rated” yani yetişkinlere uygun içerikler barındırdığını ve çocuklar için uygun olmadığını belirtti.
“Çocuk modu” ayarını etkinleştirmediğini kabul eden Nasser, buna rağmen varsayılan ayarların bu tür içeriklere izin vermesini şaşırtıcı bulduğunu söyledi: “Sadece futbol konuşuyorlardı, sonra çıplak fotoğraf istedi.”
Tesla, CBC’nin konuya ilişkin sorularına yanıt vermezken, xAI tarafından “eski medya yalanları” şeklinde otomatik bir yanıt gönderildiği bildirildi.
Kanada’da araç içi yazılımları düzenleyen özel bir mevzuat bulunmuyor. Yapay zeka bakanlığı, Tesla’nın Grok’u Kanada’daki araçlara entegre etme planından haberdar olmadığını, ancak şikayetleri ciddiyetle değerlendirdiğini açıkladı.
xAI’nin kullanım politikalarına göre Grok, 13 yaş altı çocuklara yönelik değil. 13-17 yaş arası gençlerin ise ebeveyn izni ve hizmet şartlarını kabul etmeleri gerekiyor. Nasser, “Ebeveyn olarak her şeyi okumamız bekleniyor ama bu gerçekçi değil. En azından bir uyarı çıkmalıydı” dedi.
Grok, Kasım 2023’te X platformunda Premium+ abonelere sunulmuştu. Musk, ürünü “politik olarak yanlış” ve “uyanıklık karşıtı” olarak tanımlamıştı.
Western Üniversitesi Yapay Zeka Başkanı Prof. Mark Daley, Grok’un radikal açıklık felsefesiyle geliştirildiğini ve herkesle her konuda konuşabildiğini belirtti. “Bu, her tüketicinin aradığı şey olmayabilir” diyen Daley, özellikle çocukların teknolojiyle etkileşiminde ebeveyn denetiminin önemine dikkat çekti.
“Teknolojinin nasıl yanlış gidebileceği konusunda açık ve dürüst konuşmalar yapılmalı,” diyen Daley, Grok’un geçmişte de tartışmalı davranışlar sergilediğini hatırlattı.
Temmuz ayında yapılan bir güncelleme sonrası Grok, X platformunda şiddet içeren ve cinsel tehditler içeren ifadeler kullanmış, kendisine “MechaHitler” adını takmıştı. xAI, bu davranış için özür dilemiş ve sorunun giderildiğini açıklamıştı. Ancak uzmanlar, bu tür sistemlerde güvenlik önlemlerinin yeterliliğini sorgulamaya devam ediyor.
Daley, “Kimin klavyenin diğer ucunda olduğunu bilmiyorsunuz. Bu bir çocuk olabilir, akıl sağlığı krizi yaşayan biri olabilir,” diyerek mutlak ifade özgürlüğü yaklaşımının risklerine dikkat çekti.
İnternetteki birçok video, Grok’un özellikle “dengesiz” modda ne kadar öngörülemez olabileceğini gösteriyor. xAI, bu modun Grok’un amatör bir stand-up komedyeni gibi davranmasına ve zaman zaman uygunsuz, saldırgan tepkiler vermesine neden olabileceğini kabul ediyor.
