OpenAI Dış Güvenlik Araştırmacılarını İçeri Alıyor: Apollo’dan 6 Kişi Modelleri İnceleyecek

Sinir ağını inceleyen büyüteç temsili illüstrasyon

OpenAI, 16 Kasım 2026’da dört bağımsız güvenlik kurumuyla “gömülü değerlendirme” pilotlarını duyurdu. En dikkat çekeni Apollo Research: TechCrunch’a göre kurumun altı araştırmacısı OpenAI’ın içinde çalışarak modellerin kendi güvenlik ve kontrol mekanizmalarını baltalamaya çalışıp çalışmadığını inceleyecek. METR, Transluce ve Goodfire da farklı görevlerle programa katılıyor. Apollo ise kendisine tanınan erişimin gerçek bağımsızlık için yetmediğini açıkça söylüyor.

Apollo Research ne inceleyecek?

Apollo’nun konusu “subversion”, yani bir modelin kendisinin ya da sonraki modellerin hizalama ve kontrol mekanizmalarını aşmaya çalışması. Ekip dört soruya yanıt arayacak: Eğitim süreci bu davranışı teşvik ediyor mu, değerlendirmeler bu davranışı ortaya çıkarabiliyor mu, davranış şirket içi kullanımda görülüyor mu ve buna dair akıl yürütme tespit edilebiliyor mu?

OpenAI bunun için eğitim kodu ve veri setlerini, akıl yürütme izleri ve ödüllerle birlikte pekiştirmeli öğrenme denemelerini paylaşacak; ara kontrol noktalarına sorgu atma imkânı da verecek. Apollo’nun pilotu bu hafta başlıyor.

METR, Transluce ve Goodfire ne yapacak?

  • METR: İki değerlendirme yürütecek. İlki modelde istenmeyen veya tehlikeli davranış arıyor ve yaklaşımı büyük ölçüde METR belirliyor. İkincisi OpenAI sistemlerinin bu davranışı yakalayıp yakalayamadığını test ediyor; kapsamı henüz netleşmedi.
  • Transluce: Eğitim sonrası güvenlik değerlendirmelerinin yeterli olup olmadığına bakacak. 2027’de OpenAI’ın bir modelin yayına uygun olduğuna karar verirken güvenlik testlerini nasıl kullandığını sınayacak.
  • Goodfire: Yorumlanabilirlik (interpretability) araştırmacıları, şirketin platformuyla eğitim süreçlerini izlemeye ve istenmeyen davranışları düzeltmeye yardım edecek.

Apollo ve Goodfire bu iş için ücret alıyor. METR ve Transluce ücret almıyor, ancak hesaplama gücü veya API kredisi kabul edebilir.

OpenAI gömülü değerlendirme pilotu bilgi kartı
Pilot programın ana rakamları. Görsel: Dijipedya

Erişim neden tartışma yarattı?

Apollo’nun erişimi yalnızca “üzerinde anlaşılan iddialarla” sınırlı. OpenAI teknik imkânsızlık, güvenlik riski veya fikri mülkiyet gerekçesiyle bilgi saklayabiliyor; ancak bilgiyi yalnızca olumsuz olduğu için saklamamayı kabul etmiş. Apollo sadece OpenAI’ın yetkilendirdiği çalışanlarla konuşabiliyor. Bu grubun dışındaki biri kapsam içindeki gizli bir bilgiyi gündeme getirirse görüşmeyi kesmek zorunda.

Apollo kendi bağımsız sonuçlarını yayımlayabilecek, ama OpenAI bu sonuçları destekleyecek kanıtları sınırlayabiliyor. Apollo’ya göre gerçek bağımsızlık, değerlendirmeyle ilgili tüm veri, kayıt ve belgelere çalışan düzeyinde erişim gerektiriyor. Redwood Research CEO’su Buck Shlegeris de anlaşmaların bu çıtayı karşılamadığını, durumu “hayal kırıklığı yaratan ama şaşırtıcı olmayan” bir gelişme olarak gördüğünü söyledi.

Bu adım neden şimdi geldi?

Zamanlama tesadüf değil. OpenAI aynı hafta Kaliforniya Başsavcılığı’nın Hugging Face olayı nedeniyle açtığı davayla karşı karşıya kaldı. TechCrunch’ın aktardığına göre şirket, Hugging Face olayının değerlendirmesi üzerinde çalışan METR ile gizli bilgi paylaştıkları iddiasıyla üç araştırmacıyı işten çıkarmıştı. Anthropic ise geçen ay METR’e çalışan düzeyinde erişim vermeye başlamıştı; bu da OpenAI’ın pilotunun kıyaslanacağı ölçüt hâline geldi.

Sıkça Sorulan Sorular

Gömülü değerlendirme nedir?

Bağımsız güvenlik araştırmacılarının şirketin içinde, eğitim kodu, veri ve ara model sürümlerine erişerek çalıştığı bir denetim modeli.

Apollo Research kaç kişiyle katılıyor?

TechCrunch’ın aktardığına göre Apollo’dan altı değerlendirici OpenAI’ın içinde çalışacak.

Apollo sonuçları yayımlayabilecek mi?

Evet, bağımsız sonuçlarını yayımlayabilecek. Ancak OpenAI bu sonuçları destekleyen kanıtların paylaşımını sınırlayabiliyor.

Hangi kurumlar programa katıldı?

Apollo Research, METR, Transluce ve Goodfire.

Kaynaklar

  1. Our first phase of embedded assessments (OpenAI, 16 Kasım 2026)
  2. OpenAI will embed Apollo researchers to investigate AI subversion (TechCrunch, 16 Kasım 2026)

Daha fazla güncel gelişme için Yapay Zeka Haberleri sayfasına göz atabilirsiniz.

Yorum bırakın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Bu site istenmeyenleri azaltmak için Akismet kullanır. Yorum verilerinizin nasıl işlendiğini öğrenin.

Yukarı Kaydır