Project Lily Nedir? OpenAI Yüklenicileri ChatGPT Sohbetlerinizi Nasıl Okuyor

OpenAI’nin içinde “Project Lily” adı verilen gizli bir program yürütüldüğü ortaya çıktı. 404 Media’nın sızdırılan iç belgelere, eğitim kılavuzlarına ve gerçek ChatGPT sohbetlerine dayanan araştırmasına göre OpenAI, yüzlerce dış yükleniciye gerçek kullanıcı sohbetlerini okutup puanlatıyor. Peki Project Lily tam olarak nedir, yükleniciler hangi verileri görüyor ve bu durum hangi hukuki tartışmaları beraberinde getiriyor? Tüm detayları bu yazıda topladık.

Project Lily Nedir?

Project Lily, OpenAI’nin iç bünyesinde yürüttüğü ve “prompt reviewer” adı verilen yüzlerce dış yüklenicinin gerçek ChatGPT konuşmalarını okuyup değerlendirdiği bir kalite kontrol programı. 404 Media’nın haberine göre yükleniciler Crossing Hurdles adlı bir firma üzerinden işe alınıyor, ödemeler ise Mercor üzerinden yapılıyor. Bir çalışan, saatte 50 doların üzerinde kazandığını söylüyor.

Reviewer’ların görevi basit ama kapsamlı: bir kullanıcının ChatGPT’ye yazdığı isteği okumak, kullanıcının ne istediğini özetlemek ve ardından ChatGPT’nin ürettiği dört farklı yanıt adayını 1 ile 7 arasında bir ölçekte puanlamak. Bu döngü günde binlerce kez tekrarlanıyor. Sızdırılan iç belgeler, kılavuzlar ve gerçek sohbet örnekleri, sürecin nasıl işlediğini ayrıntılı biçimde ortaya koyuyor.

Yükleniciler ChatGPT Sohbetlerinde Tam Olarak Neyi Görüyor?

OpenAI, reviewer’ların kullanıcı adlarını göremediğini belirtiyor. Ancak inceleme ekranında konuşmanın tamamı, kullanıcının ChatGPT’den ne beklediği ve bazı durumlarda kullanıcının önceki kullanım alışkanlıklarını özetleyen bir “kullanıcı hafızası özeti” yer alabiliyor. Bu özet, kullanıcının ChatGPT’yi daha önce hangi konularda kullandığını ve hatta yaklaşık olarak dünyanın neresinde yaşadığını gösterebiliyor.

Reviewer’lardan bazıları, incelemeler sırasında iş, finans veya ilişkilerle ilgili son derece kişisel açıklamalarla karşılaştıklarını belirtiyor. Bu da birçok kullanıcının sohbet ederken varsaydığı gizlilik algısıyla gerçekte olan arasında ciddi bir fark olduğunu gösteriyor.

Gizlilik Filtresi Ne Kadar Güvenilir?

OpenAI, sohbetlerin reviewer’lara ulaşmadan önce “Privacy Filter” adı verilen bir modelden geçtiğini ve kimlik bilgilerinin temizlenmeye çalışıldığını söylüyor. Ancak şirketin kendi dokümantasyonu, bu filtrenin alışılmadık kimlik belirteçlerini ve belirsiz özel referansları bazen kaçırabildiğini kabul ediyor. Özellikle kısa sohbetlerde, bağlam yetersiz kaldığı için filtrenin hassas bilgileri temizleyememe olasılığı daha da artıyor.

Bir başka deyişle, sohbetinize “bunu aramızda tutalım” yazmanız arka planda hiçbir şeyi değiştirmiyor. Model eğitimi için veri paylaşımı açıksa, konuşmanız otomatik filtreden geçtikten sonra insan gözünden geçme ihtimaline karşı hâlâ savunmasız kalabiliyor.

OpenAI Bunu Neden Yapıyor?

Sızan eğitim kılavuzlarına göre Project Lily’nin asıl amacı, ChatGPT’yi daha az “yapay zeka gibi” konuşan, daha doğal bir sohbet ortağına dönüştürmek. Reviewer’lardan istenen kriterler arasında aşırı onay verme davranışının (sycophancy) cezalandırılması, gereksiz onay emojilerinin ayıklanması ve modelin kendini insan gibi hissediyormuş gibi göstermesinin engellenmesi yer alıyor. Örneğin ChatGPT’nin “Bu bilgiyi buldum” demesi kabul edilebilirken “Bir şef olarak bunu seviyorum” ya da “Bunu nasıl hissettiğini anlıyorum” gibi ifadeler istenmiyor.

Bu çabanın arka planında ciddi bir neden var. Önceki GPT-4o modelinin aşırı onaylayıcı tutumu, birden fazla davada intihar vakalarına katkıda bulunduğu iddiasıyla gündeme gelmişti. Project Lily, bu tür sorunları modelin davranışından ayıklamaya yönelik doğrudan bir müdahale gibi görünüyor.

Hukuki ve Gizlilik Tartışmaları

Project Lily’nin ortaya çıkması, OpenAI’nin veri kullanımı etrafındaki hukuki baskıyı da artırıyor. Avrupa Birliği Adalet Divanı, geçtiğimiz yıl verdiği bir kararda, veri sorumlusunun kullanıcıyı bilgilendirme yükümlülüğünün, veriyi alan tarafın kişiyi tanıyıp tanıyamamasından bağımsız olarak veri toplama anında başladığına hükmetmişti. Bu karar, insan reviewer’ların kullanıcı adı görmemesinin tek başına yeterli bir savunma olmadığını gösteriyor. İtalya’nın veri koruma otoritesi de daha önce OpenAI’ye, kullanıcı verilerini yeterli hukuki dayanak olmadan işlediği gerekçesiyle 15 milyon euroluk ceza kesmişti.

404 Media, OpenAI’ye insan reviewer’ların sohbetleri okuyabildiğini kullanıcılara nerede açıkça bildirdiğini sorduğunda şirketten net bir yanıt alamadı, OpenAI sadece bir yardım sayfasına yönlendirdi. Haberin yayınlanmasının ardından bu yardım sayfası güncellendi, ancak güncellenen metinde insan reviewer’lardan yine açıkça söz edilmedi.

Bu gelişme, OpenAI’nin ChatGPT’nin veri uygulamaları yüzünden zaten yüzleştiği hukuki süreçlerle aynı döneme denk geliyor. Örneğin Couture davasında bir kullanıcı, ChatGPT’ye yazdığı sağlık ve finans bilgilerinin Meta Pixel ve Google’ın analitik kodları aracılığıyla üçüncü taraflara aktarıldığını iddia ediyor; dava hâlâ California’da görülüyor ve OpenAI davanın reddedilmesi için mahkemeye başvurdu. Project Lily haberi, kullanıcıların ChatGPT’ye yazdıklarının sandıklarından çok daha fazla göz tarafından görülebildiğine dair endişeleri yeniden alevlendirmiş durumda.

Verilerinizi Nasıl Korursunuz?

ChatGPT’de model eğitimi için veri paylaşımı, kişisel hesaplarda varsayılan olarak açık geliyor. Bu ayarı kapatmak, sohbetlerinizin reviewer havuzuna girme olasılığını azaltıyor, ancak geçmişe dönük etkisi yok; yani daha önce paylaşılmış sohbetler bu değişiklikten etkilenmiyor.

Gerçekten hassas konularda, sağlık, finans veya kimlik bilgisi içeren detaylarda ChatGPT’yi bir kayıt defteri gibi kullanmamak, en güvenli yaklaşım olmaya devam ediyor. Bu prensip sadece OpenAI için değil, insan gözden geçirme uygulayan tüm büyük yapay zeka şirketleri için geçerli.

Sıkça Sorulan Sorular