Yapay zeka modeli, ses örneğine ihtiyaç duymadan sadece portre fotoğrafından kişinin sesini klonlayabiliyordu. Güvenlik endişeleri nedeniyle özellik acilen durduruldu.
Seedance 2.0’ın Ses Klonlama Özelliği Neydi?
ByteDance’in geliştirdiği Seedance 2.0 yapay zeka video üretim modeli, teknoloji dünyasında büyük yankı uyandıran bir yetenek sergiledi. Model, hiçbir ses örneği olmadan yalnızca bir portre fotoğrafından kişinin ses tonunu, ritimini ve tonlamasını analiz edip klonlayabiliyordu.
MediaStorm’un kurucusu Pan Tianhong tarafından yapılan testlerde, sistem yalnızca statik bir yüz fotoğrafı kullanarak Pan’ın gerçek sesiyle neredeyse özdeş ses çıktıları üretti. Herhangi bir ses açıklaması, konuşma kalıbı veya metin istemi bile gerekmiyordu.
ByteDance Neden Özelliği Askıya Aldı?
ByteDance’in Jimeng platformu operatörleri, kullanıcı geri bildirimlerine dayanarak acil değişiklikler yaptıklarını açıkladı. Şirket yetkilisi Sina Tech’e verdiği açıklamada şunları söyledi:
“Sağlıklı ve sürdürülebilir bir yaratıcı ortamı sürdürmek için, gerçek insanlara benzer fotoğraf veya videoların referans konu olarak kullanılmasına izin vermeyeceğiz.”
Şirket ayrıca Jimeng ve Doubao uygulamalarına canlı doğrulama adımı getirdi. Artık kullanıcılar dijital avatar oluşturmadan önce kendi görüntülerini ve seslerini kaydetmek zorunda.
Güvenlik ve Etik Endişeler
Seedance 2.0’ın fotoğraftan ses klonlama özelliği, ciddi güvenlik riskleri taşıyordu:
Başlıca Riskler:
- Kimlik Hırsızlığı: Kişilerin rızası olmadan ses klonlama imkanı
- Deepfake Dolandırıcılığı: Sahte sesli aramalar ve video içerikler için kötüye kullanım potansiyeli
- İtibar Saldırıları: Kişiler adına yanıltıcı içerik üretimi riski
- Biyometrik Veri Gizliliği: Görsel ve işitsel kimlik arasındaki güvenlik açığının ihlali
Telif Hakkı İhlali Suçlamaları
Seedance 2.0, ses klonlama dışında telif hakkı ihlali konusunda da eleştiri aldı. Hollywood stüdyolarını temsil eden Motion Picture Association (MPA), Tom Cruise ve Brad Pitt gibi ünlülerin izinsiz kullanıldığı viral videolar nedeniyle ByteDance’i “büyük ölçekli” telif hakkı ihlaliyle suçladı.
Yapay Zeka Güvenliğinde Yeni Dönem
Bu gelişme, yapay zeka teknolojilerinde güvenlik önlemlerinin ne kadar kritik olduğunu bir kez daha gösterdi. Güçlü AI yetenekleri ile etik kullanım arasındaki dengenin kurulması, teknoloji şirketleri için öncelikli konu haline geldi.
ByteDance’in hızlı tepkisi, sektörde sorumlu yapay zeka geliştirme konusunda önemli bir örnek teşkil ediyor. Ancak uzmanlar, benzer teknolojilerin kötüye kullanımını önlemek için daha kapsamlı düzenlemelere ihtiyaç olduğunu vurguluyor.
