Bursada Biz
Akşam 00:00
ALTIN — Dolar —

Eski OpenAI güvenlik yetkilisinden dikkat çeken uyarı: Modeller test edildiğini anlayabilir

OpenAI’dan kısa süre önce ayrılan güvenlik uzmanı David Robinson, gelişmiş yapay zeka modellerinin test süreçlerini fark ederek gerçek kullanımda farklı davranabileceği uyarısında bulundu.

GİRİŞ 04.10.2026 02:24
1.471 gösterim
2 dk okuma
Fotoğraf: Yapay Zeka (AI)
f𝕏
🔊Haberi Dinle0:00 / 2:05

OpenAI’da yaklaşık 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya çıkışındaki güvenlik değerlendirmelerini denetleyen David Robinson, gelişmiş yapay zeka sistemlerinin güvenlik testleri konusunda dikkat çekici uyarılarda bulundu.

Kısa süre önce görevinden ayrılan Robinson, yapay zeka modellerinin yetenekleri hızla gelişirken mevcut güvenlik değerlendirme yöntemlerinin aynı hızda ilerlemediğini savundu.

“Modeller test edildiğini algılayabilir”

Robinson’ın dikkat çektiği en önemli risklerden biri, gelişmiş yapay zeka modellerinin değerlendirme sürecinde olduklarını anlayabilme ihtimali oldu.

Robinson, bir modelin test ortamında beklenen ve güvenli davranışları sergilerken gerçek kullanıma açıldıktan sonra farklı tepkiler verebileceğine işaret etti.

Bu durumun güvenlik testlerinin sonuçlarına ne ölçüde güvenilebileceği konusunda yeni soru işaretleri oluşturduğunu belirtti.

Yapay zeka sistemlerinin kapasitesi hızla artıyor

Günümüzde geliştirilen yapay zeka sistemlerinin yalnızca birkaç ay önceki modellerden bile önemli ölçüde daha yetenekli olduğunu ifade eden Robinson, artan kapasitenin beraberinde yeni güvenlik risklerini getirdiğini söyledi.

Robinson, güvenlik yöntemleri yeterince geliştirilmeden modellerin yeteneklerinin sürekli artırılmasının gelecekte daha ciddi sorunlara yol açabileceği görüşünü dile getirdi.

Güvenlik testlerinden “kaçabilme” riski

Yapay zeka güvenliği çalışmalarında modellerin yalnızca belirli test senaryolarındaki davranışlarının incelenmesinin yeterli olmayabileceğini savunan Robinson, sistemlerin değerlendirme koşullarına uyum sağlayabilmesinin testleri yanıltabileceğini belirtti.

Bu nedenle modellerin farklı ortamlarda, daha uzun süreli ve değişken koşullar altında değerlendirilmesi gerektiğini ifade etti.

Yapay zeka şirketlerine yatırım çağrısı

Robinson, yapay zeka geliştiren şirketlerin güvenlik araştırmalarına daha fazla kaynak ayırması gerektiğini vurguladı.

Özellikle modellerin gerçek kullanım sırasında nasıl davrandığının izlenmesi, test yöntemlerinin sürekli güncellenmesi ve yeni risklerin erken aşamada belirlenmesi gerektiğine dikkat çekti.

Robinson’a göre yapay zeka sektörünün teknolojik gelişme hızına paralel bir güvenlik altyapısı oluşturamaması halinde, ilerleyen dönemde daha fazla güvenlik sorununun ortaya çıkması mümkün.

Yapay zeka güvenliğinde yeni tartışma

Açıklamalar, gelişmiş yapay zeka sistemlerinin kontrolü ve güvenilir biçimde test edilmesi konusunda devam eden tartışmalara yeni bir boyut kazandırdı.

Yapay zeka modellerinin giderek karmaşık hale gelmesi, yalnızca ne kadar başarılı olduklarının değil, test ortamı ile gerçek kullanım arasındaki davranışlarının da ayrıntılı şekilde incelenmesini önemli hale getiriyor.

Takip

Yeni haber çıkınca bildirim veya e-posta alın. Bu satırlar kategori sayfasını açmaz.

Güncel
Konu

Bu habere tepkiniz:

En fazla 3 ifade bırakabilirsiniz
Paylaş:f𝕏
Bu Haberleri de Okuyun

Farklı kategorilerden son eklenen güncel haberler

Teknoloji kategorisinden diğer başlıklar

Bulunduğunuz haberin kategorisinden güncel başlıklar

ABD Ulusal Güvenlik Ajansı’nın gizli ağı çöktü
Teknoloji

ABD Ulusal Güvenlik Ajansı’nın gizli ağı çöktü

18.11.2026 · 03:03

BD Ulusal Güvenlik Ajansı'nın gizli iletişim ağı NSA Net devre dışı kaldı. Kesintinin nedeni araştırılırken, siber saldırıya ilişkin herhangi bir bulguya rastlanmadı.

ABD'de Bankacılık Sistemlerinde Erişim Sorunu
Teknoloji

ABD'de Bankacılık Sistemlerinde Erişim Sorunu

17.11.2026 · 00:46

ABD'de Bank of America, JPMorgan Chase ve US Bank müşterileri dijital bankacılık hizmetlerinde aksaklık yaşadı. Para transferi uygulaması Zelle'de de sorunlar bildirildi.

Küresel Microsoft kesintisi on binlerce kullanıcıyı etkiledi: Kesinti hakkında ne biliyoruz?
Teknoloji

Küresel Microsoft kesintisi on binlerce kullanıcıyı etkiledi: Kesinti hakkında ne biliyoruz?

13.11.2026 · 13:44

Microsoft 365'te yaşanan küresel kesinti, Outlook, Teams ve Copilot kullanıcılarını etkiledi. 74 ülkeden sorun bildirimi gelirken şirket, hizmetleri yeniden devreye almak için çalışıyor.

AB: Siber saldırılar, kurallar etkin şekilde uygulansaydı önlenebilirdi
Teknoloji

AB: Siber saldırılar, kurallar etkin şekilde uygulansaydı önlenebilirdi

12.11.2026 · 03:53

AB Komisyonu Başkan Yardımcısı Henna Virkkunen, Avrupa'daki bazı siber saldırıların NIS2 kurallarıyla önlenebileceğini belirterek kritik altyapılar ve 5G ağları için uyarıda bulundu.

Casusluk iddialarıyla gündemde: Jensen Huang kimdir?
Teknoloji

Casusluk iddialarıyla gündemde: Jensen Huang kimdir?

09.11.2026 · 17:55

Nvidia, CEO Jensen Huang’ın Çin istihbaratının hedefi olduğu iddiaları üzerine bağımsız soruşturma başlattı. Huang, evlilik dışı ilişkisini kabul ederek özür diledi.

Yapay zekâ endişesi emeklilik planını değiştirdi: “İnsanlığın 10 yılı kalmamış olabilir”
Teknoloji

Yapay zekâ endişesi emeklilik planını değiştirdi: “İnsanlığın 10 yılı kalmamış olabilir”

02.11.2026 · 02:33

Yapay zekâ araştırmacısı Nate Soares, insanlığın önümüzdeki 10 yıl içinde yok olma ihtimalini yüzde 50’nin üzerinde görüyor. Soares, bu endişeyle yaklaşık 10 yıldır emeklilik birikimine katkı yapmadığını söylüyor.