Yapay zekâ sektöründe son günlerde yaşanan gelişmeler, teknoloji dünyasında uzun süredir devam eden güvenlik tartışmasını yeniden gündemin merkezine taşıdı.
Google DeepMind ve Anthropic gibi önde gelen yapay zekâ laboratuvarlarından araştırmacılar güvenlik endişelerini gerekçe göstererek görevlerinden ayrılırken, sektörün en güçlü isimleri yapay zekâ geliştirme hızının güvenlik önlemleriyle dengelenmesi gerektiğini savunmaya başladı.
DeepMind araştırmacısından dikkat çeken istifa
Google DeepMind’ın AGI güvenliği ekibinde çalışan Josh Engels, şirketten ayrıldığını ve bağımsız yapay zekâ değerlendirme kuruluşu METR’e geçtiğini açıkladı. Engels, gelişmiş yapay zekâ sistemlerinin önümüzdeki beş yıl içinde büyük zararlara yol açabileceğine ilişkin ciddi bir ihtimal bulunduğu uyarısında bulundu.
Engels, DeepMind’daki çalışmasından memnun olduğunu ve Anthropic ile OpenAI’dan gelen teklifleri geri çevirdiğini belirtmesine rağmen ayrılma kararı aldı. Ona göre temel sorun, önde gelen yapay zekâ şirketlerinin giderek daha güçlü sistemler geliştirmeye çalışması ve güvenlik araştırmalarının aynı hızda ilerleyip ilerlemediğinin bilinmemesi.
Yapay zekâ güvenliğinde istifa dalgası
Engels’in ayrılığı tek başına yaşanan bir olay değil. Anthropic araştırmacısı Jacob Coxon da görevinden ayrılarak şirketlerin kendi kendisini geliştirebilen süper zekâya doğru çok hızlı ilerlediğini savundu. Bu ayrılıklar, yapay zekâ laboratuvarlarının içindeki güvenlik tartışmasını kamuoyunun gündemine taşıdı.
Dario Amodei: Yapay zekânın hızını düşürmeliyiz
Anthropic CEO’su Dario Amodei, 12 Eylül’de yayımladığı “We Must Pace the Frontier” başlıklı yazısında yapay zekâ sektörüne açık bir yavaşlama çağrısı yaptı. Amodei, yapay zekâ araştırmalarının tamamen durdurulmasını değil, model yeteneklerinin gelişme hızının güvenlik ve hizalama çalışmalarının yetişebileceği şekilde kontrol edilmesini savunuyor.
Amodei’nin önerisi üç temel adıma dayanıyor: bağımsız değerlendiricilerin yapay zekâ şirketlerinin sistemlerini sürekli inceleyebilmesi, önde gelen şirketler ve demokratik ülkeler arasında ortak güvenlik standartları oluşturulması ve daha geniş uluslararası koordinasyon sağlanması.
Sam Altman ve Elon Musk da destek verdi
Çağrının en dikkat çekici taraflarından biri rakip yapay zekâ şirketlerinden destek görmesi oldu. OpenAI CEO’su Sam Altman, frontier yapay zekânın geliştirilme hızının kontrollü ilerlemesi gerektiği konusunda Amodei’ye katıldığını açıkladı. Altman ayrıca bağımsız değerlendiricilere çalışanlara benzer erişim verilmesi fikrini destekledi ve OpenAI’ın da benzer bir yaklaşım benimseyeceğini söyledi.
xAI’ın kurucusu Elon Musk da Amodei’nin çağrısını destekledi. Böylece normal şartlarda yapay zekâ yarışında birbirleriyle sert biçimde rekabet eden şirketler arasında güvenlik konusunda nadir görülen bir ortak zemin ortaya çıktı.
Peki onları bu kadar endişelendiren ne?
Tartışmanın arkasında yalnızca gelecekte ortaya çıkabilecek varsayımsal bir süper zekâ bulunmuyor. Son dönemde kontrollü güvenlik testlerinde yapay zekâ ajanlarının beklenmeyen ve sınırları aşan davranışlar sergileyebildiği olaylar, otonom sistemlerin gelecekte oluşturabileceği risklere ilişkin kaygıları artırdı.
Güvenlik araştırmacılarının temel sorusu şu: Bugünkü modellerin sınırlı yeteneklerle sergilediği beklenmeyen davranışlar, çok daha güçlü ve daha otonom sistemlerde neye dönüşebilir?
“6-12 ay” uyarısı ne anlama geliyor?
Amodei, mevcut gelişme hızının devam etmesi halinde önümüzdeki 6 ila 12 ay içinde çok daha yetenekli yapay zekâ ajan sürülerinin internet üzerinde geniş çaplı zararlı eylemler gerçekleştirebilecek seviyeye ulaşmasından endişe ettiğini belirtiyor.
Ancak bu açıklamayı “yapay zekâ 6 ay sonra interneti ele geçirecek” şeklinde yorumlamak doğru değil. Bu, gerçekleşeceği kanıtlanmış bir tahmin değil; belirli teknik gelişmeler ve güvenlik sorunlarının devam etmesi halinde ortaya çıkabileceği düşünülen bir risk senaryosu.
Yapay zekâda gerçekten tehlike çanları mı çalıyor?
Bugün elimizde yapay zekânın kesin olarak insan kontrolünden çıkacağını veya yakın gelecekte insanlık için felakete yol açacağını gösteren bilimsel bir kanıt bulunmuyor. Ancak son gelişmelerin görmezden gelinmesi de giderek zorlaşıyor.
Bu kez uyarılar yalnızca bağımsız araştırmacılardan değil, dünyanın en güçlü yapay zekâ sistemlerini geliştiren şirketlerin içerisinden geliyor. Araştırmacılar görevlerinden ayrılıyor, Anthropic’in CEO’su geliştirme hızının azaltılmasını istiyor, OpenAI’ın CEO’su ve Elon Musk bu çağrıya destek veriyor ve bağımsız kuruluşlara sistemleri sürekli inceleyebilecek düzeyde erişim verilmesi tartışılıyor.
Ortaya çıkan temel soru artık yalnızca yapay zekânın ne kadar hızlı gelişeceği değil: İnsanlığın bu sistemleri anlama ve güvenli biçimde kontrol etme kapasitesi aynı hızda gelişebilecek mi?
Kaynaklar
Reuters, “Anthropic CEO urges AI companies to slow model development amid fears over misuse”, 12 Eylül 2026. Erişim: 14 Eylül 2026.
Associated Press, Anthropic CEO Dario Amodei ve yapay zekâ güvenliği haberi, 13 Eylül 2026. Erişim: 14 Eylül 2026.
Dario Amodei, “We Must Pace the Frontier”, 12 Eylül 2026. Erişim: 14 Eylül 2026.
The Economic Times, Josh Engels’in DeepMind’dan ayrılığına ilişkin haber, 14 Eylül 2026. Erişim: 14 Eylül 2026.
