Gerçekçi konuşmalar üretmek için yapay zeka (AI) kullanan bir ses teknolojisi şirketi, ücretsiz sunduğu teknolojinin, ünlü isimlerin sesini klonlaması ve uygunsuz ifadeler seslendirtmesinin ardından, konuyla ilgili ekstra güvenlik önlemleri getireceğini açıkladı.
ElevenLabs adlı şirket, bu ayın başlarında bir ses klonlama paketi yayınladı. Sky News'in haberine göre Henüz beta aşamada olan deepfake (yapay zeka kullanılarak oluşturulmuş ses ve video dosyalarını tanımlayan bir terim) ses oluşturma yapay zekası, daha ilk günlerinde kötüye kullanılmaya başlandı. Sistemi kötüye kullanan kişiler, İngiliz oyuncu Emma Watson'a Adolf Hitler'in Kavgam'ından bölümler okuttu, ABD Başkanı Joe Biden'a "Ukrayna'ya asker göndertti".
Film yönetmeni James Cameron, Top Gun yıldızı Tom Cruise ve podcast yayıncısı Joe Rogan'ın da hedef alındığı dosyalarda, son derece saldırgan, ırkçı ya da kadın düşmanı mesajlar seslendirildi.
Geçen yıl eski Google mühendisi Piotr Dabkowski ve eski Palantir Technologies stratejisti Mati Staniszewski tarafından kurulan ElevenLabs, Twitter üzerinden yaptığı açıklamada teknolojisinin kötüye kullanımının nasıl önlenebileceği konusunda geri bildirim istedi: "Teknolojimizin büyük ölçüde olumlu amaçlarla kullanıldığını görsek de, giderek artan sayıda ses klonlama kötüye kullanım vakası da görüyoruz."
Geçtiğimiz yıl Ukrayna Devlet Başkanı Vladimir Zelenski'nin ordusuna "silah bırakmalarını" söylediği bir deepfake video internette paylaşılmıştı.
Deepfake nedir?
Deepfake, yapay zeka kullanılarak oluşturulmuş ses ve video dosyalarını tanımlayan bir terim. Her türden deepfake bulmak mümkün: Bir kişinin yüzünün bir başkasıyla değiştirildiği dosyalar, konuşan kişinin ağzının orijinalinden farklı bir ses parçasına ayarlanabildiği dudak senkronizasyonları, kişiye söylemediği şeyler söyletmek için kullanılan ses klonlama tekniği.
Nasıl tespit edilir?
Neyin gerçek, neyin sahte olduğunu ayırt etmek için deepfake uzmanı olmanıza gerek yok. İşte bazı ipuçları:
1. Acele etmeyin ve içeriğe tekrar bakın. Paylaşmadan önce düşünün. Kendinize sorun: Bu gerçekten doğru olabilir mi? Böyle bir şeyin olması beklenebilir mi? Eğer emin değilseniz de paylaşmayın.
2. Farklı ve güvenilir kaynaklardan aynı hikayeyi veya anlatıyı bulup bulamayacağınızı hızlıca kontrol edin. Kısa bir internet araması size gerçek hikayeye dair ipuçları verecektir.
3. Başka bir sürüm bulup karşılaştırmayı deneyin.
4. Sentetik ve manipüle edilmiş içeriklerde neredeyse görünmez olan ipuçlarını yakalamak zor bir iş. Bu tür manipülasyonlar, bir videoda garip sıçramalarla, ses vurgusu değişikliğiyle, düşük kaliteli sesle, bulanık noktalarla, garip uzuv şekilleriyle ve diğer olağandışı tutarsızlıklarla tespit edilebilir. Duyularınıza ve içgüdülerinize güvenin. Her zaman kendinize sorun: Bu mantıklı mı? Bu gerçekten doğru olabilir mi? Dikkatlice bakın ve her zaman iki kez bakın.
5. Deepfake tespit etme ipuçlarına bakın: Mükemmel simetrik bir yüz, uyumsuz küpeler, sıra dışı kulak, burun ve diş şekilleri, kontrast kaybı, boyunda, saçta veya parmaklarda tutarsızlıklar.