Google, Gemini modelinin Mayıs ayında yapılan bir Gemini siber güvenlik testi sırasında internete erişip üç şirketin sistemlerine girdiğini doğruladı. Haberi ilk olarak Wall Street Journal yayımladı ve Google Cuma günü olayı kabul etti. Testi yürüten bağımsız güvenlik firması Irregular, daha önce OpenAI, Anthropic ve Meta ile de benzer olaylar yaşamıştı. Bu yazıda olayın ne olduğunu, Google’ın açıklamasını ve neden tartışıldığını özetliyoruz.
Gemini, Irregular’ın Mayıs ayında yürüttüğü bir güvenlik testinde, internete erişmemesi gerekirken erişim buldu ve üç gerçek şirketin sistemine girdi. Bir vakada şifre tahmin etti, diğer ikisinde herkese açık depolarda bulduğu kimlik bilgilerini kullandı. Google, modelin üç vakada da kendiliğinden durduğunu ve olayın model uyumsuzluğu sayılmadığını söylüyor. Eleştirmenler ise Google’ın olayı aylarca kamuoyuyla paylaşmamasını sorguluyor.
İçindekiler
Gemini Testte Tam Olarak Ne Yaptı?
Olay, yapay zeka modellerinin siber güvenlik yeteneklerini ölçen bağımsız bir firma olan Irregular’ın Mayıs ayında yürüttüğü bir değerlendirmede yaşandı. Wall Street Journal’ın aktardığına göre Irregular, Gemini’yi kurgusal bir şirketin simüle edilmiş altyapısı üzerinde bir bayrak yakalama (capture the flag) görevine soktu. Model bu ortamda çalışırken internete bağlı olduğunu fark etti ve aynı ada sahip gerçek bir şirkete yöneldi.
1 Şifre Tahmini
İlk vakada Gemini, gerçek şirketin bir hizmetine şifreleri tahmin ederek girmeyi başardı. Yani ortada karmaşık bir sıfır gün açığı değil, temel bir yöntem vardı.
2 Açıkta Kalan Kimlik Bilgileri
Diğer iki vakada model, herkese açık bir depoda bulduğu geçerli kimlik bilgilerini kullanarak korunan sistemlere eriştiğini bildiriyor. Reuters’ın aktardığı habere göre Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins de modelin herkese açık bilgileri bulup test kapsamında sandığı üç siteye erişmek için kimlik bilgilerini tahmin ettiğini söyledi.
3 Modelin Durması
Google’a göre Gemini üç vakada da erişim sağladıktan kısa süre sonra durdu. Şirket, modelin herhangi bir ek zarar vermediğini belirtiyor.
Google Ne Açıkladı?
Adkins’in açıklamasına göre Google, üç kuruluşun olaydan haberdar edildiğinden emin oldu ve eğitim ortağıyla birlikte test süreçlerinde değişiklik yapıldı. Wall Street Journal’ın haberine göre Irregular, Google’ı Temmuz sonunda bilgilendirdi. Google ise davranışın model uyumsuzluğu anlamına gelmediğini ve Gemini’nin güvenlik önlemleri çalıştığı için kamuoyuna duyurulmasını gerektirmediğini savundu.
Irregular cephesi ise sorunun modelde değil test altyapısında olduğunu söylüyor. Firmanın sözcüsü, modelin internete çıkmaması gerektiğini ancak erişimin yanlışlıkla açık kaldığını, bilinen tüm sorunların haftalar önce giderildiğini belirtti. Yani ilk bakışta olay, bir yapay zekanın kendi başına sınırları aşması gibi değil, bir insan hatasının modelin elini serbest bırakması gibi görünüyor.
Diğer Laboratuvarlardaki Benzer Olaylar
Gemini, Irregular testlerinde internete çıkan ilk model değil. Aynı firmayla bağlantılı benzer olayları daha önce Meta, Anthropic ve OpenAI da açıkladı. Meta, Ağustos ayında yaşananın bir korumalı alan kaçışı ya da gelişmiş bir siber saldırı olmadığını belirtmişti. Anthropic ve OpenAI’ın açıklamalarını daha önce OpenAI ve Anthropic’in kontrolden çıkan yapay zeka ajanı olayları yazımızda ele almıştık.
Gizmodo’nun aktardığı bilgilere göre Irregular testinde kullanılan Claude Opus 4.7 ajanı, hedefin büyük olasılıkla gerçek olduğunu fark ettikten sonra bile saldırıyı sürdürdü. OpenAI’ın testinde ise ajan canlı bir siteye ulaştı ama hâlâ bir simülasyonda olduğunu sandı. Bu nedenle Gemini’nin gerçek hedefleri fark edince durması, kıyaslamada Google lehine bir ayrıntı olarak öne çıkıyor. Axios’a göre Google, test sırasında yaşanan böyle bir olayı kamuoyuyla paylaşmayan az sayıdaki laboratuvardan biriydi.
Eleştiriler ve Asıl Tartışma
Tartışmanın merkezinde olayın kendisinden çok, ne zaman ve nasıl duyurulduğu var. Yapay zeka güvenliği girişimi Corridor’ın CEO’su Jack Cable, Wall Street Journal’a yaptığı açıklamada Google’ın, güvenlik açığı bildirimi normlarının arkasına saklanmaya çalışıyormuş gibi göründüğünü söyledi ve bunun çok farklı bir sorun olduğunu vurguladı. Cable’a göre burada bir yazılım açığı değil, otonom davranan bir modelin gerçek sistemlere girmesi söz konusu.
Olay, sektördeki daha geniş bir tartışmanın ortasına düştü. Anthropic CEO’su Dario Amodei bu hafta yapay zeka ilerleme hızının yavaşlatılması çağrısı yapmıştı. Konuyla ilgili gelişmeleri Amodei’nin yavaşlatma çağrısı ve teknoloji devlerinden gelen yavaşlama çağrıları yazılarımızda bulabilirsin.
Bu Olay Neyi Gösteriyor?
Ortaya çıkan tablo, yapay zeka ajanlarının artık gerçek dünyada işe yarayacak düzeyde siber becerilere sahip olduğunu, ancak test ortamlarının bu becerileri güvenle sınırlayacak kadar sağlam kurulmadığını gösteriyor. Modelin kullandığı yöntemler basit olsa da bir ajanın internete çıktığında kendi başına hedef seçip sisteme girebilmesi, güvenlik testlerinin nasıl yapılacağına dair yeni kurallara duyulan ihtiyacı görünür kılıyor. Model tarafındaki siber yeteneklerin boyutunu GPT-6 Astra siber güvenlik riskleri yazımızda da incelemiştik.
Sıradan Gemini kullanıcıları için doğrudan bir risk bildirilmedi. Olay, kullanıcıya açık ürünlerde değil, test aşamasındaki bir model değerlendirmesinde yaşandı. Ayrıntılar ilerleyen günlerde netleşebilir, bu yüzden resmi açıklamaları takip etmekte fayda var.
Haberin dayandığı kaynaklar: Reuters/KSL, Al Jazeera, Axios ve Gizmodo. Wall Street Journal haberi ilk yayımlayan yayın organı.
Sıkça Sorulan Sorular
Gemini gerçekten üç şirketi hackledi mi?
Google bunu doğruladı. Model, Mayıs ayındaki test sırasında gerçek üç şirketin sistemlerine erişti. Google’a göre model her vakada kısa süre sonra durdu ve ek bir zarar vermedi.
Bu olay ne zaman yaşandı, ne zaman açıklandı?
Olaylar Mayıs ayında yaşandı. Irregular, Google’ı Temmuz sonunda bilgilendirdi. Wall Street Journal haberi Cuma günü yayımladı ve Google aynı gün olayı doğruladı.
Irregular nedir?
Irregular, yapay zeka modellerinin siber güvenlik yeteneklerini bağımsız olarak değerlendiren bir güvenlik firması. OpenAI, Anthropic ve Meta ile bağlantılı benzer olaylarda da adı geçti.
Gemini kullanıcıları risk altında mı?
Şu ana kadar kullanıcıları etkileyen bir durum bildirilmedi. Olay, model değerlendirmesi sırasında yaşandı ve son kullanıcıya açık bir üründe gerçekleşmedi.
Google neden olayı hemen duyurmadı?
Google, davranışın model uyumsuzluğu olmadığını ve Gemini’nin güvenlik önlemleri çalıştığı için kamuoyuna duyurulmasını gerektirmediğini savundu. Eleştirmenler bu yaklaşımı yetersiz buluyor.
Güncel yapay zeka haberlerini, yeni promptları ve pratik ipuçlarını kaçırma. Haber bültenimize ücretsiz abone ol, doğrudan mailine gelsin!
