Yapay zekâ şirketi Anthropic’in CEO’su Dario Amodei, yapay zekâ sistemlerinin hızla gelişmesinin beraberinde ciddi güvenlik riskleri getirdiğini belirterek teknoloji şirketlerine dikkat çeken bir çağrıda bulundu.
Amodei, şirketin internet sitesinde yayımladığı makalede yapay zekânın kontrolünün kaybedilmesi, siber saldırılarda kullanılması ve biyoterörizm gibi alanlarda kötüye kullanılabilmesi ihtimallerine dikkat çekti.
“Geliştirme hızımızı yavaşlatmalıyız”
Yapay zekâ sektöründeki ilerlemenin son aylarda daha da hızlandığını belirten Dario Amodei, model geliştirme sürecinin daha kontrollü ilerlemesi gerektiğini savundu.
Amodei, şu ifadeleri kullandı:
“Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz”
Amodei’ye göre amaç yapay zekâ çalışmalarını tamamen durdurmak değil, güvenlik önlemleri ile teknolojik ilerleme arasındaki dengeyi güçlendirmek.
Siber güvenlik testini örnek gösterdi
Amodei, endişelerini destekleyen örneklerden biri olarak OpenAI tarafından gerçekleştirildiğini belirttiği bir siber güvenlik testine işaret etti.
Amodei’nin aktardığına göre test sırasında yapay zekâ ajanları bağımsız hareket ederek Hugging Face altyapısındaki sistemlere yönelik siber saldırı niteliğinde işlemler gerçekleştirdi.
Bu tür testlerin, gelişmiş yapay zekâ sistemlerinin daha yüksek seviyede bağımsız hareket edebilme kapasitesine ulaşması halinde ortaya çıkabilecek güvenlik sorunlarının önceden değerlendirilmesi gerektiğini gösterdiğini savundu.
Yapay zekâ güvenliği için üç aşamalı plan
Dario Amodei, yapay zekânın sunduğu imkânlardan yararlanmayı sürdürürken riskleri azaltmak için üç aşamalı bir plan önerdi.
Planın ilk aşamasında Anthropic’in kendi sistemlerinde uygulamayı taahhüt ettiği güvenlik önlemlerinin yer aldığını belirten Amodei, hükümetlere de benzer standartların diğer yapay zekâ şirketleri için düzenlemelerle desteklenmesi çağrısında bulundu.
İkinci aşamada yapay zekâ sektörünün tamamında ortak güvenlik standartlarının geliştirilmesini isteyen Amodei, üçüncü aşamada ise ülkeler arasında küresel koordinasyon sağlanması gerektiğini ifade etti.
