Google CEO’su Sundar Pichai, CBS 60 Minutes programında yapay zeka teknolojisinin ‘kara kutu’ özelliğini kabul ederek, sistemlerin nasıl çalıştığını tam olarak anlamadıklarını itiraf etti. Bard’ın beklenmedik yetenekler geliştirmesi ve halüsinasyonlar yaşaması endişeleri artırıyor.
Yapay zeka devriminin öncü şirketlerinden Google’ın CEO’su Sundar Pichai, CBS’in prestijli haber programı 60 Minutes’ta yaptığı açıklamalarla teknoloji dünyasında şok etkisi yarattı. Pichai, yapay zeka sistemlerinin iç işleyişini tam olarak anlayamadıklarını açıkça kabul ederek, sektördeki en büyü endişeleri gözler önüne serdi.
‘Kara Kutu’ Problemi: Kimse Tam Olarak Anlamıyor
Programda röportajcı Scott Pelley’in sorularına yanıt veren Pichai, yapay zeka alanında çalışan herkesin ‘kara kutu’ olarak adlandırdığı bir fenomenin varlığını doğruladı. Google CEO’su, “Tam olarak anlamıyorsunuz. Ve neden bunu söylediğini ya da neden yanlış yaptığını tam olarak söyleyemiyorsunuz” şeklinde konuştu.
Pelley’in “Nasıl çalıştığını tam olarak anlamıyorsunuz. Yine de onu topluma saldınız mı?” sorusu karşısında Pichai, savunmasını ilginç bir benzetmeyle yaptı: “İnsan zihninin nasıl çalıştığını da tam olarak anladığımızı sanmıyorum.”
Beklenmedik Yetenek: Bengalce Konuşan Yapay Zeka
Programda dikkat çeken detaylardan biri, Google’ın Bard adlı yapay zeka sisteminin hiç eğitilmediği Bengalce dilinde akıcı bir şekilde konuşmaya başlamasıydı. Bu durum, yapay zeka araştırmacılarının ‘ortaya çıkan özellikler’ (emergent properties) olarak adlandırdığı ve tam olarak açıklayamadığı yetenekler arasında yer alıyor.
Google sözcüsü daha sonra yaptığı açıklamada, PaLM modelinin Bengalce’de temel cümle tamamlama üzerine eğitildiğini, ancak diller arası çeviri yapmayı veya soru-cevap formatında yanıt vermeyi öğretilmediğini belirtti. Sistemin bu yetenekleri kendi başına geliştirmesi, yapay zeka araştırmacılarını hem heyecanlandırıyor hem de endişelendiriyor.
Halüsinasyon Problemi: Var Olmayan Kitaplar
Programda yapılan canlı demonstrasyon sırasında yaşanan olay, yapay zeka sistemlerinin ‘halüsinasyon’ sorununu gözler önüne serdi. Bard’a enflasyon hakkında soru sorulduğunda, sistem yanıtında 5 kitap önerdi. Ancak bu kitapların hiçbiri gerçekte mevcut değildi.
Pichai, halüsinasyon problemlerinin tüm yapay zeka modellerinde var olduğunu ve alandaki hiç kimsenin bu sorunu henüz çözemediğini kabul etti. Bu durum, yapay zeka sistemlerinin güvenilirliği konusunda ciddi soru işaretleri yaratıyor.
“Bu Beni Geceleri Uyutmuyor”
Belki de röportajın en çarpıcı anlarından biri, Pichai’nin yapay zeka teknolojisine dair kişisel endişelerini paylaşması oldu. Google CEO’su, teknolojinin çok hızlı ilerlediğini ve henüz tüm cevaplara sahip olmadıklarını söyleyerek, “Bu beni geceleri uyutmuyor mu? Kesinlikle” ifadelerini kullandı.
Pichai, yapay zekanın gelecekte “şu anda gördüğümüzden çok daha yetenekli olacağını” ve yapay zeka geliştirme hızının yanı sıra yanlış şekilde kullanılma endişelerinin kendisini uyanık tuttuğunu belirtti.
“Ateşten ve Elektrikten Daha Derin Bir Teknoloji”
Yapay zekanın önemini vurgulamak için tarihi bir benzetme yapan Pichai, yapay zekanın “insanlığın üzerinde çalıştığı en derin teknoloji” olduğunu iddia etti. Google CEO’su, “Ateşten, elektrikten ya da geçmişte yaptığımız her şeyden daha derin” ifadelerini kullanarak, yapay zekanın potansiyel etkisinin altını çizdi.
Düzenleme Çağrısı
Pichai, röportaj sırasında yapay zeka alanında düzenleme yapılması gerektiğini de vurguladı. Google CEO’su, yasalara ihtiyaç olduğunu ve topluma zarar veren deepfake videolar yaratmanın sonuçları olması gerektiğini söyledi.
Bu açıklama, yapay zeka şirketlerinin bile kendi geliştirdikleri teknolojilerin potansiyel tehlikelerinin farkında olduğunu gösteriyor.
Sonuç: Bilinmeyenle Yolculuk
Sundar Pichai’nin CBS 60 Minutes’taki itirafları, yapay zeka devriminin ne kadar belirsizliklerle dolu olduğunu gözler önüne seriyor. Dünyanın en büyük teknoloji şirketlerinden birinin CEO’su bile, geliştirdikleri sistemlerin tam olarak nasıl çalıştığını anlayamadıklarını kabul ederken, yapay zekanın geleceği hakkında sorular artıyor.
Bard’ın beklenmedik yetenekler geliştirmesi, halüsinasyonlar yaşaması ve geliştirici ekibin bile davranışlarını tam olarak açıklayamaması, yapay zeka teknolojisinin hem muazzam potansiyelini hem de öngörülemeyen risklerini ortaya koyuyor.
Sonuç olarak, insanlık tam olarak anlamadığı bir teknolojiyle birlikte geleceğe doğru ilerlerken, düzenleme, şeffaflık ve sorumlu geliştirme ilkelerinin önemi her zamankinden daha kritik hale geliyor.
Kaynak: CBS 60 Minutes (2023)
