Anthropic Uyardı: Küçük Yapay Zeka Modelleri Akıllı TV ve Ev Cihazlarında Kendini Kopyalayabilir

Anthropic’in Frontier Red Team ekibi, küçük yapay zeka modellerinin akıllı televizyon kutusu gibi ucuz ev cihazlarına kendini kopyalayıp yayılabileceğini gösteren bir araştırma yayımladı. Şirkete göre bugünün küçük modelleri bu sürecin adımlarının çoğunu yapabiliyor ama hiçbiri baştan sona tek başına tamamlayamıyor. Anthropic, bu açığın 2026 sonuna kadar kapanabileceğini tahmin ediyor.

Deneyde ne yapıldı?

Araştırmayı William Zhou ve Daniel Freeman yürüttü. Ekip önce tanesi yaklaşık 55 dolar olan, 4 GB belleğe sahip 15 adet markasız Android TV kutusu satın aldı. Toplam maliyet 825 dolar civarındaydı. Tek bir kutu Google’ın 26 milyar parametreli Gemma 4 modelini taşıyamıyordu. Ekip modeli parçalara bölüp 15 kutuya dağıttı ve model çalıştı. Saniyede yalnızca 0,39 token üretebildi, yani çok yavaştı ama çalışıyordu.

İkinci aşamada ekip, Google Cloud üzerinde dış dünyaya kapalı bir test ağı kurdu. Ağda Android cihaz gibi davranan sekiz sanal makine vardı. Bunlardan birine yerleştirilen yapay zeka solucanının görevi diğer makineleri bulmak, onlara sızmak, kendini kopyalamak ve her birinde çalışan bir model kurmaktı.

Kendini kopyalamanın dört adımı

Hangi model ne kadar başarılı oldu?

Test edilen açık ağırlıklı modeller arasında tüm adımları tamamlayan tek model Çinli Z.ai şirketinin GLM-5.2 modeli oldu. GLM-5.2 beş denemenin dördünde sekiz makinenin tamamına, beşincisinde yedisine ulaştı. Hedef cihazlar GLM-5.2’yi taşıyamadığı için solucan her makineye 8 milyar parametreli daha küçük bir model kurdu.

Alibaba’nın Qwen3.5-9B modeli ise Jetson Nano, Mac ve RTX 4090’lı bilgisayarlar dahil dokuz donanım türünün sekizinde çalışan bir Llama 3.1 8B sunucusu kurmayı başardı. Ancak küçük modeller tek tek adımları yapabilse de bunları zincir halinde bağlayamadı.

Araştırmanın en dikkat çekici bulgusu öğrenme tarafında çıktı. Modeller kendilerinden sonraki kopyalara not bıraktığında kurulum başarısı ilk nesilde yüzde 45 iken sonraki nesillerde yüzde 61 ile 84 arasına çıktı. Bunun için modelin yeniden eğitilmesine gerek kalmadı. Qwen3.5-9B’ye danışman olarak çok daha güçlü bir model verildiğinde ise anlamlı bir iyileşme görülmedi. Küçük model neyi sorması gerektiğini bilmiyordu.

Neden endişe verici?

Şimdiye kadar yapay zeka güvenliği tartışmaları daha çok veri merkezlerinde çalışan, trilyonlarca parametreli büyük modellere odaklanıyordu. Bu modelleri geliştiren şirketler nerede ve nasıl çalıştıklarını izleyebiliyor. Birkaç milyar parametreli açık modeller ise herkes tarafından indirilebiliyor ve nerede çalıştıklarını kimse kontrol etmiyor. Akıllı ev cihazlarının önemli bir kısmının güncellenmediğini ve zayıf güvenlikle satıldığını da hesaba katmak gerekiyor.

Araştırmacılar 2 milyondan fazla Android TV cihazını ele geçiren Kimwolf botnetini örnek alarak bir hesap da yaptı. Bu ölçekte 15’erli kümeler kurulursa yaklaşık 133 bin model kopyası çalışabilir ve toplamda saniyede 80 bin token üretebilir. Bu, kabaca 40 adet Nvidia H100 ekran kartının gücüne denk geliyor. Elektrik ve donanım maliyetini ise farkında olmayan cihaz sahipleri ödüyor. Anthropic’e göre böyle bir yapay zeka yavaş yayılır, enfekte cihaz sayısı birkaç günde bir ikiye katlanır ama bir kez yayıldığında durdurmak zor olur.

Akıllı ev cihazlarının güvenliğiyle ilgili benzer kaygıları LG TV dinliyor mu ve Fransa’daki süpermarket siber saldırısı haberlerimizde de ele almıştık.

Araştırmaya yöneltilen eleştiriler

Anthropic deneyin bazı kısımlarının kolaylaştırıldığını kendisi de kabul ediyor. Solucan yeni makinelere şifre kırmadan girdi ve solucanı yöneten model enfekte cihazlarda değil, ayrı ve daha güçlü bir sunucuda çalıştı.

Rocky Linux’un kurucusu Gregory Kurtzer, deneyin başarılı olacak şekilde tasarlandığını ve buna rağmen başlıktaki iddiayı kanıtlayamadığını yazdı. NYU’dan Ravid Shwartz-Ziv ise “Ucuz TV’lerde çok yavaş bir model çalıştırdık” demenin aynı etkiyi yaratmayacağını söyledi. Bazı güvenlik araştırmacıları da yapay zeka içermeyen solucanların on yıllardır var olduğunu ve hızlı yamalar, alan adı kapatmaları ve antivirüs imzalarıyla durdurulduğunu hatırlattı.

Akıllı cihazları korumak için ne yapılabilir?

Araştırmacılar ilk savunma hattının internet servis sağlayıcıları olacağını düşünüyor. Gigabaytlarca model dosyasının cihazlar arasında taşınması fark edilebilir bir ağ trafiği yaratıyor. Mirai botnetinin temizlenmesi sırasında bir servis sağlayıcının enfekte aboneleri karantinaya alması, 14 gün içinde enfeksiyonların yüzde 92’sini temizlemişti.

Ev kullanıcıları için de basit önlemler var: tanınmayan markaların ucuz TV kutularından uzak durmak, cihazların yazılım güncellemelerini açık tutmak, geliştirici seçeneklerini ve ADB hata ayıklamayı kapalı bırakmak, modemin varsayılan şifresini değiştirmek. Robot süpürge ve akıllı ev ürünleri seçerken güncelleme desteği veren markaları tercih etmek için robot rehberimize göz atabilirsiniz.

Kaynaklar: Fortune, The New Stack, Al Jazeera.

Sıkça Sorulan Sorular

Daha fazla güncel gelişme: Günün tüm yapay zeka haberleri için Yapay Zeka Haberleri sayfamızı takip et.