Anthropic CEO’su Dario Amodei: “Yapay Zekayı Yavaşlatmalıyız”

Anthropic CEO’su Dario Amodei, 12 Eylül 2026’da yayımladığı “We Must Pace the Frontier” (Sınırın Hızını Ayarlamalıyız) başlıklı yazısında yapay zeka sektörünün model yeteneklerini geliştirme hızını bilinçli olarak yavaşlatması gerektiğini savundu. Yazı, bir yapay zeka laboratuvarının başındaki isimden gelen ilk bu kadar net yavaşlama çağrısı olarak dikkat çekti.

Amodei Ne Dedi?

Amodei yazısında sektörün “yapay zeka modellerinin yeteneklerini geliştirme hızını yavaşlatması gerektiğini” savunuyor. Temel argümanı şu: laboratuvarların bu modelleri anlama ve kontrol etme kapasitesi, modellerin gelişme hızının gerisinde kalıyor. Yani sorun modellerin ne kadar güçlü olduğu değil, güvenlik çalışmalarının bu güce yetişememesi.

Bu çağrının dikkat çekici yanı, kaynağı. Daha önceki “durdurun” çağrıları genellikle sektör dışından, eleştirmenlerden ya da ayrılan araştırmacılardan geliyordu. Bu kez çağrı doğrudan öncü bir laboratuvarın CEO’sundan geliyor ve kendi rakiplerinden de aynı kısıtlamayı kabul etmelerini istiyor. Amodei bunun kendisi için bir pozisyon değişikliği olduğunu da açıkça belirtiyor.

Fikrini Değiştiren İki Gelişme

Üç Adımlı Plan

Birinci adım: Bağımsız denetim. Üçüncü taraf değerlendiricilere şirket sistemlerine çalışan seviyesinde kalıcı erişim vermek. Bu sayede güvenlik önlemlerine uyumu doğrulayabilecek, olayları raporlayabilecek ve modellerin eğitim sırasındaki hizalanmasını değerlendirebilecekler. Amodei bunun bankacılıktaki gömülü denetçi uygulamasına benzediğini belirtiyor. Anthropic bu adıma tek taraflı olarak şimdiden başlıyor.

İkinci adım: Demokratik koordinasyon. Demokratik ülkelerdeki öncü yapay zeka şirketlerinin ortak güvenlik standartları ve denetimsiz ilerleme hızına sınırlar belirlemek için koordine olması. Amodei bu tür koordinasyonun hukuki açıdan zor olduğunu ve devlet desteği gerektireceğini kabul ediyor.

Üçüncü adım: Küresel koordinasyon. ABD ve diğer demokratik hükümetlerin otoriter yönetimlerle de koordinasyon kurmayı denemesi, uyumun doğrulanmasındaki zorlukları ciddiye alarak.

Yavaşlamak Ne Kazandıracak?

Amodei’ye göre daha yavaş bir tempo, şirketlerin şu alanlara daha fazla kaynak ayırmasını sağlayacak: operasyonel mükemmellik, hizalama (modellerin güvenli, etik ve kurallara uygun kalmasını sağlama) ve yorumlanabilirlik.

Hizalama konusunda ilerleme kaydedildiğini ancak nadir ve beklenmedik istenmeyen davranışların hâlâ ortaya çıkabildiğini belirtiyor. Yorumlanabilirlik yani modellerin içinde ne olup bittiğini anlama bilimi içinse “adeta bir fMRI taraması gibi” ifadesini kullanıyor. Bu alandaki çalışmalara örnek olarak Claude’da keşfedilen J-space araştırması gösterilebilir.

Amodei ayrıca demokratik ülkeler arasındaki yavaşlamanın bir tavanı olduğunu da vurguluyor: bu ancak ABD’nin Çin karşısındaki mevcut önceliği kadar sürdürülebilir. Bu nedenle Çin’e çip ihracat kısıtlamalarının devamını, yetkisiz model damıtmaya karşı daha sıkı yaptırımları ve model ağırlıklarının çalınmasını önleyecek güvenlik önlemlerini destekliyor.

Sektörden Gelen Tepkiler

Yazının yayımlanmasından saatler sonra hem OpenAI CEO’su Sam Altman hem de Elon Musk, Amodei’nin görüşüne katıldıklarını açıkladı. Somut bir öneri, şirketin kendi üzerine aldığı ilk adım ve rakiplerden gelen bu hızlı destek, bu çağrıyı önceki yıllardaki “durdurun” mektuplarından ayıran unsurlar olarak değerlendiriliyor.

Yazı, yapay zeka güvenliği tartışmaları açısından hareketli bir döneme denk geldi. Sadece üç gün önce Anthropic araştırmacısı Jacob Coxon, şirketinden istifa ederken hem Anthropic hem OpenAI’ın “kendini geliştiren süper zekaya doğru düz bir yarış yaptığını ve hayatlarımızla kumar oynadığını” söylemişti. Bu tartışmanın detaylarını istifa haberimizde okuyabilirsiniz.

Plana Yöneltilen Eleştiriler

Yazıya yönelik temel eleştiri, önerilerin yeterince somut olmaması. İki boşluk öne çıkıyor: birincisi, bağımsız değerlendirici ekibinin ne zaman göreve başlayacağına dair bir tarih verilmiyor, sadece “yakın gelecekte” deniliyor. İkincisi, ikinci adımın hayata geçmesi için bir rekabet hukuku muafiyeti gerekiyor ancak planda hiçbir hükümeti bunu vermeye zorlayan bir unsur yok.

Amodei bu zorluğu yazısında kendisi de kabul ediyor ve önerdiği önlemlerin kolay olmayacağını belirtiyor. Bu nedenle plan şu an için bir şirketin taahhüdü ve iki talepten ibaret. Bağlayıcı bir hız sınırı içermiyor.

Sıkça Sorulan Sorular