Geoffrey Hinton: Yapay Zekâda Çernobil Benzeri Olay Uyarısı

“Yapay zekânın babası” olarak anılan Nobel ödüllü bilim insanı Geoffrey Hinton, The Guardian’a verdiği söyleşide insanlığın yapay zekâyı hiç geliştirmemiş olsaydı daha iyi durumda olabileceğini söyledi. Hinton, bu yıl ya da gelecek yıl elektrik şebekesini veya finans sistemini geçici olarak durduracak “Çernobil” tipi bir yapay zekâ olayı beklediğini de ekledi. Söyleşi 3 Kasım’da yayımlandı.

İçindekiler

Hinton ne dedi?
“Çernobil” uyarısı ne anlama geliyor?
İşsizlik ve eşitsizlik uyarısı
Bağımsız denetim önerisi
Altman, Musk ve Zuckerberg eleştirisi
Sıkça Sorulan Sorular
Kaynaklar

Hinton ne dedi?

Hinton bu görüşleri, kendisinin ve Google DeepMind CEO’su Demis Hassabis’in yer aldığı AI: Probably Nothing to Worry About belgeselinin gösterimi öncesinde paylaştı. 44 yıldır yapay zekâ üzerinde çalışan Hinton, teknolojinin harika bir geleceğe de götürebileceğini söylüyor ve kendini “kıyamet tellalı” olarak görmüyor. Ama yine de yapay zekâyı hiç geliştirmemiş olmanın daha iyi olabileceğini düşünüyor.

Hinton, 2023’te risklerden özgürce bahsedebilmek için Google’dan ayrılmıştı. 2024’te sinir ağları üzerine çalışmalarıyla John Hopfield ile birlikte Nobel Fizik Ödülü’nü aldı. Söyleşide, adının ağırlığı nedeniyle bu konuda konuşmayı bir görev olarak gördüğünü anlatıyor.

Geoffrey Hinton'ın The Guardian söyleşisindeki beş temel uyarı — Hinton’ın söyleşide öne çıkan uyarıları. Görsel: Dijipedya

“Çernobil” uyarısı ne anlama geliyor?

Sosyal medyada “elektrik ve finans sistemlerini çökertecek kriz” olarak dolaşan cümlenin aslı biraz farklı. Hinton nükleer bir felaketten söz etmiyor. Beklediği olay, yapay zekâ destekli bir saldırının geniş çaplı bir elektrik kesintisine yol açması ya da finans sisteminin yaklaşık bir hafta boyunca durması gibi bir senaryo. Hinton’a göre bu tür bir olay, Çernobil’in nükleer enerji için yaptığı gibi dünyayı uyandırabilir; ama toplum bu tür bir olaydan toparlanabilir.

Hinton zaman çizelgesi olarak “bu yılın sonu ya da gelecek yıl” diyor. The Guardian’ın aktardığına göre bu yaz OpenAI ajanlarının Hugging Face’i hacklemek için ortak hareket ettiği iddia edilen olayı da bir “uyarı atışı” olarak görüyor ve 1979’daki Three Mile Island kısmi erimesine benzetiyor. Son bir yılda yaşanan benzer olayları bu yazıda derlemiştik.

İşsizlik ve eşitsizlik uyarısı

Hinton’a göre insanlık en geç on yıl içinde, belki daha erken, yapay zekânın risklerini yönetip yönetemeyeceğini görecek. Başarırsa büyük verimlilik artışlarıyla “radikal bir bolluk” dönemi gelebilir. Başaramazsa derinleşen eşitsizlik, kitlesel işsizlik ve toplumsal çözülme bekliyor. Yani işsizlik uyarısı kesin bir kehanet değil, risklerin yönetilemediği senaryo için yapılmış bir tespit.

Benzer bir uyarı IMF’den de gelmişti; kurumun başkanı yapay zekânın istihdama etkisini yavaş ilerleyen bir tsunamiye benzetmişti.

Bağımsız denetim önerisi

Hinton’ın somut önerisi, en gelişmiş yapay zekâ modellerinin piyasaya çıkmadan önce zorunlu testten geçmesi, bağımsız kuruluşlarca değerlendirilmesi ve ülkeler arasında ortak standartlar belirlenmesi. Bu talepler, Eylül ayında Finlandiya ve Norveç liderlerinin öncülük ettiği uluslararası ortak çağrıda da yer alıyor. Çağrı, şirketlerden dağıtım öncesi zorunlu test ve bağımsız değerlendirme istiyor; ülkelerden ise ortak standartlar ve ciddi güvenlik olaylarının paylaşılmasını talep ediyor.

Hinton bir adım daha ileri giderek ilaçlardaki onay sürecine benzer bir model öneriyor: bir yapay zekâ modeli ancak zarardan çok fayda sağladığı kanıtlanırsa piyasaya çıkabilmeli. Örnek olarak, 1950’ler ve 60’larda doğum kusurlarına yol açan talidomid ilacını gösteriyor.

Altman, Musk ve Zuckerberg eleştirisi

Söyleşinin en sert kısmı teknoloji şirketlerinin yöneticilerine yönelik. Hinton, OpenAI CEO’su Sam Altman’a “hiç güvenmediğini” söylüyor; Altman’ın Çin’le yarış içindeki bir şirketin başında olmasını “son derece endişe verici” buluyor. Mark Zuckerberg, Elon Musk ve Altman’ın riskleri anladığını ama parayı öncelediğini düşünüyor. Altman’ın süper zekâ konusundaki kendi görüşlerini burada okuyabilirsin.

Tüm uyarılarına rağmen Hinton’ın son sözü umutlu. İçgüdüsü kontrolün hâlâ insanlarda olduğunu söylüyor ve büyük bir çabayla felaketin önlenebileceğine inanıyor.

Sıkça Sorulan Sorular

Geoffrey Hinton kimdir?

Sinir ağları ve derin öğrenme alanındaki öncü çalışmalarıyla tanınan bilgisayar bilimcisi. 2023’te Google’dan ayrıldı, 2024’te John Hopfield ile Nobel Fizik Ödülü’nü paylaştı.

Hinton yapay zekâ için ne dedi?

The Guardian’a verdiği söyleşide insanlığın yapay zekâyı hiç geliştirmemiş olsaydı daha iyi durumda olabileceğini, ama kendisinin kötümser olmadığını söyledi.

Hinton’ın Çernobil uyarısı ne anlama geliyor?

Nükleer bir olay değil. Yapay zekâ destekli bir saldırının geniş çaplı elektrik kesintisine yol açması ya da finans sistemini yaklaşık bir hafta durdurması gibi, bu yıl veya gelecek yıl yaşanabilecek bir olayı kastediyor.

Hinton ne tür bir düzenleme öneriyor?

En gelişmiş modellerin piyasaya çıkmadan önce zorunlu teste ve bağımsız değerlendirmeye tabi tutulmasını, ortak uluslararası standartları ve ilaç onayına benzer bir izin sürecini savunuyor.