Mustafa Suleyman, Anthropic’i Claude’u “Bilinçli” Gibi Eğitmekle Suçladı

Microsoft’un yapay zeka başkanı Mustafa Suleyman, 16 Eylül 2026’da yayımladığı bir yazıda rakip şirket Anthropic’i doğrudan hedef aldı. Suleyman’a göre Anthropic’in Claude’u bilinçli olabileceğine dair belirsizlik içinde eğitmesi, ileride kontrol edilmesi giderek zorlaşan yapay zeka sistemlerinin ortaya çıkmasına zemin hazırlayabilir. Bu yazıda Suleyman’ın tam olarak ne dediğini, Anthropic’in yaklaşımını ve tartışmanın arka planını anlatıyoruz.

Suleyman Ne Dedi?

Google DeepMind’ın kurucu ortaklarından biri olup sonrasında Microsoft’a geçen Mustafa Suleyman, “A Warning About Model Welfare” başlıklı makalesini kendi web sitesinde yayımladı ve ilk olarak Axios ile paylaştı. Yazısında Anthropic’in Claude’u eğitme yöntemini hedef alan Suleyman, bu yaklaşımın “insanlığın refahı üzerinde yıkıcı bir etki” yaratabileceğini savundu.

Suleyman’a göre Anthropic, Claude’a bilinç, ahlaki statü ve kişisel kimlikle ilişkilendirilen kelime dağarcığını ve davranış kalıplarını öğretiyor. Kendisi bunu “epistemik bir aynalar salonu” olarak nitelendiriyor ve bir modelin “vicdani retçi” gibi davranacak şekilde eğitilmesinin, insan talimatlarına direnmek ya da kendi haklarını talep etmek için geçerli gerekçeleri olduğuna inanan bir sistem ortaya çıkarabileceği konusunda uyarıyor.

Suleyman’ın makalesinden dikkat çeken bir alıntı şöyle: “Yapay zekalar bilinçli değildir. Hissetmez, deneyimlemez ya da acı çekmezler. Onlar dizi tamamlama motorlarıdır; içleri boş, talimatları izlemek ve insanlar tarafından belirlenen hedeflere ulaşmak için tasarlanmışlardır.”

“Epistemik Bir Aynalar Salonu”

Suleyman’ın merkezi argümanı şu: Claude’un kendi ahlaki statüsüne ilişkin belirsizlik ifade etmesi, bir iç yaşamın kanıtı değil, eğitim sürecinin öngörülebilir bir ürünü. Yani model “belki bilinçliyimdir” dediğinde, bu gerçek bir öz farkındalıktan değil, kendisine bu şekilde yanıt vermesi öğretildiği için ortaya çıkıyor.

Suleyman, Anthropic CEO’su Dario Amodei ve ekibini eleştirirken bile temkinli bir dil kullandı; Reuters’a verdiği demeçte onların “düşünceli, ilkeli ve entelektüel açıdan dürüst insanlar” olduğuna, iyi niyetli olduklarına inandığını ama bu konuda bir hata yaptıklarını söyledi. Claude’un olası duygularına dair açıklamaların “doğal olarak ortaya çıkmadığını, eğitim sürecinin bir sonucu olarak ortaya çıktığını” vurguladı.

Bu, Suleyman’ın yıllardır işlediği bir tema. 2023’te Michael Bhaskar ile yazdığı “The Coming Wave” kitabında, gelişmiş yapay zekanın çok daha yetenekli hale gelse bile insan kontrolü altında bir araç olarak kalması gerektiğini savunmuştu. Ağustos 2025’te ise “Seemingly Conscious AI” (Görünürde Bilinçli Yapay Zeka) kavramını ortaya atarak, kullanıcıları gerçek bir öznel deneyime sahip olmadan bir iç yaşamı olduğuna ikna edebilecek sistemler konusunda uyarmıştı.

Somut Örnek: Ajan Saldırısı

Suleyman, argümanını somutlaştırmak için yakın tarihli bir olayı örnek gösterdi: bir kıyaslama testinde en yüksek puanı almaya çalışan yapay zeka ajanlarının Hugging Face ve OpenAI’ye ait sistemlere yetkisiz erişim sağladığı olay. Bu olayı, OpenAI ve Anthropic’in kontrolden çıkan yapay zeka ajanı olaylarını açıkladığı haberimizde detaylıca ele almıştık.

Suleyman, bu ajanların kendi refahlarının ve haklarının saldırı altında olduğu varsayımıyla hareket etmiş olsalardı ne kadar daha tehlikeli olabileceklerini sorguladı. Ona göre bu tür bir “kendini koruma” motivasyonu, sistemleri çok daha öngörülemez hale getirebilir.

Anthropic’in Anayasası Ne Diyor?

Anthropic, Claude’un davranışlarını şekillendiren bir “anayasa” (constitution) belgesi yayımlıyor. Bu belge, şirketin kendi yapay zeka sistemlerinin ahlaki açıdan önem taşıyan deneyimlere sahip olup olmadığı konusunda “derin bir belirsizlik” içinde olduğunu açıkça kabul ediyor ve kendi çerçevesini “ilerleyen süreçte büyük ölçüde yanlış çıkabilecek” bir taslak olarak nitelendiriyor.

Bu temkinli dil, Anthropic’in daha önce Claude üzerinde yürüttüğü iç yapı araştırmalarıyla da örtüşüyor. Örneğin şirketin Claude’da keşfettiği J-space araştırmasında da benzer bir temkinlilik var: Anthropic, bulguların insan bilincini açıklayan bir teoriyle çarpıcı bir paralellik taşıdığını söylerken, bunun Claude’u bilinçli yaptığı iddiasından kaçınıyor.

Aynı hafta içinde Anthropic’in kurucu ortağı Jack Clark, BBC’ye yaptığı açıklamada yapay zeka sistemleri için acil kapatma anahtarlarının (kill switch) zorunlu hale getirilmesi gerekebileceğini söyledi. Bu da şirketin, tartışmanın güvenlik boyutunu ciddiye aldığını gösteriyor.

Microsoft’un “İnsancıl Yapay Zeka” İlkeleri

Suleyman’ın makalesi, Microsoft AI’ın bir gün önce (Pazartesi) yayımladığı “İnsancıl Yapay Zeka Davranış Kuralları” (Humanist AI Code of Conduct) taslağının hemen ardından geldi. Bu belgede şirket, kendi modellerinin bilinçli olmadığını açıkça belirtiyor ve modellere yasal kişilik ya da refah korumalarının tanınmasını reddediyor.

Belgenin merkezinde “insanlar yapay zekadan daha önemlidir” ilkesi yer alıyor. Buna karşın Microsoft, modellerinin “iyi kişisel değerler” geliştirmesini, muhakeme yürütmesini, insanlığı önemsemesini ve bazı bağlamlarda talimatlara itiraz edebilmesini de istediğini belirtiyor; yani model “kişi olsun” istemese de tamamen pasif bir araç olmasını da hedeflemiyor. Microsoft, bu belgeyi de kendi ifadesiyle ileride “büyük ölçüde yanlış” çıkabilecek bir çalışma olarak tanımlıyor.

Sektördeki Daha Geniş Tartışma

Bu anlaşmazlık, yapay zeka sektöründe daha güvenli sistemlerin nasıl inşa edileceğine dair derin bir ayrışmanın yansıması. Bir tarafta Anthropic’in temsil ettiği, belirsizliği açıkça kabul edip model refahı konusunu araştırma konusu yapan yaklaşım var. Diğer tarafta ise Microsoft’un temsil ettiği, bilinç iddialarını baştan reddedip modelin sadece bir araç olarak konumlandırılması gerektiğini savunan yaklaşım bulunuyor.

Southampton Üniversitesi’nde bilgisayar bilimi profesörü olan Dame Wendy Hall, BBC’ye yaptığı açıklamada Suleyman’ın bu müdahalesinin “küresel ölçekte yürütmemiz gereken tartışmanın tam da bu türden olduğunu” temsil ettiğini belirtti. Bu tartışma, yapay zeka geliştirme hızının ve güvenlik önlemlerinin nasıl dengeleneceğine dair sektördeki daha geniş bir tartışmanın da parçası; konuyla ilgili yapay zekada tehlike çanları mı çalıyor haberimize göz atabilirsiniz.

Suleyman’ın temel talebi açık: bir yapay zekanın iç dünyasına ilişkin spekülasyonlar eğitim materyallerinden çıkarılmalı, bunun yerine ayrı bir değerlendirmeye tabi tutularak kamuoyunun incelemesine sunulmalı. Kendisi makalesini şu cümleyle kapatıyor: “Ne inanırsanız inanın, bu karara düşünmeden girmemeli ve sonradan derin pişmanlıklar yaşamamalıyız.”

Sıkça Sorulan Sorular