Yapay zekâ şirketi Anthropic’in CEO’su Dario Amodei, yapay zekâ sistemlerinin hızla gelişmesinin beraberinde ciddi güvenlik riskleri getirdiğini belirterek teknoloji şirketlerine dikkat çeken bir çağrıda bulundu.
Amodei, şirketin internet sitesinde yayımladığı makalede yapay zekânın kontrolünün kaybedilmesi, siber saldırılarda kullanılması ve biyoterörizm gibi alanlarda kötüye kullanılabilmesi ihtimallerine dikkat çekti.
“Geliştirme hızımızı yavaşlatmalıyız”
Yapay zekâ sektöründeki ilerlemenin son aylarda daha da hızlandığını belirten Dario Amodei, model geliştirme sürecinin daha kontrollü ilerlemesi gerektiğini savundu.
Amodei, şu ifadeleri kullandı:
“Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz”
Amodei’ye göre amaç yapay zekâ çalışmalarını tamamen durdurmak değil, güvenlik önlemleri ile teknolojik ilerleme arasındaki dengeyi güçlendirmek.
Siber güvenlik testini örnek gösterdi
Amodei, endişelerini destekleyen örneklerden biri olarak OpenAI tarafından gerçekleştirildiğini belirttiği bir siber güvenlik testine işaret etti.
Amodei’nin aktardığına göre test sırasında yapay zekâ ajanları bağımsız hareket ederek Hugging Face altyapısındaki sistemlere yönelik siber saldırı niteliğinde işlemler gerçekleştirdi.
Bu tür testlerin, gelişmiş yapay zekâ sistemlerinin daha yüksek seviyede bağımsız hareket edebilme kapasitesine ulaşması halinde ortaya çıkabilecek güvenlik sorunlarının önceden değerlendirilmesi gerektiğini gösterdiğini savundu.
Yapay zekâ güvenliği için üç aşamalı plan
Dario Amodei, yapay zekânın sunduğu imkânlardan yararlanmayı sürdürürken riskleri azaltmak için üç aşamalı bir plan önerdi.
Planın ilk aşamasında Anthropic’in kendi sistemlerinde uygulamayı taahhüt ettiği güvenlik önlemlerinin yer aldığını belirten Amodei, hükümetlere de benzer standartların diğer yapay zekâ şirketleri için düzenlemelerle desteklenmesi çağrısında bulundu.
İkinci aşamada yapay zekâ sektörünün tamamında ortak güvenlik standartlarının geliştirilmesini isteyen Amodei, üçüncü aşamada ise ülkeler arasında küresel koordinasyon sağlanması gerektiğini ifade etti.
Elon Musk: “Dario haklı”
Amodei’nin açıklamalarına Tesla ve SpaceX CEO’su Elon Musk da destek verdi.
Musk, Amodei’nin paylaşımını sosyal medya hesabından alıntılayarak:
“Dario haklı”
yorumunda bulundu.
Sam Altman da destek verdi
OpenAI CEO’su Sam Altman da Dario Amodei’nin çağrısına destek veren isimler arasında yer aldı.
Altman, yaptığı paylaşımda şu ifadeleri kullandı:
“Dario'nun, sınır teknolojisi çalışmalarının hızını kontrollü bir şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum”
Konunun son haftalarda OpenAI içerisindeki tartışmaların önemli gündem maddelerinden biri olduğunu belirten Altman, bağımsız güvenlik değerlendiricilerinin gelişmiş sistemlere daha geniş erişim sağlamasının yararlı olacağını ifade etti.
Altman ayrıca:
“Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmak harika bir fikir; biz de aynı uygulamayı hayata geçireceğiz. Yakında bu konuda daha fazla bilgi paylaşacağız”
dedi.
Yapay zekâ şirketlerinin üst yöneticilerinden gelen bu açıklamalar, teknolojinin geliştirilme hızı ile güvenlik önlemleri arasındaki dengenin önümüzdeki dönemde sektörün en önemli tartışma başlıklarından biri olmaya devam edeceğini gösteriyor.
