Yapay zeka tarafından üretilen sağlık videoları doktorların kabusu oldu

Gerçek kontrol kuruluşu Full Fact, izleyicileri takviye sitelerine yönlendiren sahte doktor ve fenomen "versiyonlarını" içeren yüzlerce videoyu ortaya çıkardı. Sahte videolar arasında internetten alınmış gerçek sağlık uzmanı görüntüleri de yer alıyor.

Ancak video ve ses, yapay zeka algoritmaları tarafından üretiliyor . Bu da, gerçek tıp uzmanlarının yüzlerine sahip doktorların takviyeler, özler, mineraller vb. gibi her türlü ürünü önerdiği sentetik görüntülerle sonuçlanıyor. Probiyotiklerden Himalaya tuzlarına kadar her şey reklam ediliyor.

Liverpool Üniversitesinde tıp doktoru olan Profesör David Taylor-Robinson, fotoğrafı kullanılanlar arasında. Ağustos ayında, TikTok'ta daha önce hiç duymadığı ürünleri önerdiği iddia edilen toplam 14 videonun yayınlandığını öğrenince şoke oldu.

Taylor-Robinson çocuk sağlığı uzmanı olmasına rağmen, bir videosunda kendisinin klonlanmış bir versiyonu, menopozun sözde yan etkisi olan "hassas bacak sendromundan" bahsediyor. Sahte Taylor-Robinson, menopoz dönemindeki kadınlara sentetik görselde "zerdeçal, kara yılan kökü ve moringa dahil olmak üzere menopoz semptomlarını gidermek için özel olarak seçilmiş 10 bilimsel temelli bitki özütü" içeren doğal probiyotik satın almak için belirli bir web sitesini ziyaret etmelerini öneriyor.

Gerçek Taylor-Robinson, fotoğrafının kullanıldığını ancak bir meslektaşının kendisine videoları bildirmesiyle fark etmiş. O anın "gerçeküstü" olduğunu söylüyor. " Birinin çalışmalarımı ve beraberinde getirdiği sağlık yanlış bilgilerini kullanarak ürün satması fikri beni rahatsız etti."

Taylor-Robinson'ın görüntüsünü oluşturmak için kullanılan görüntüler, 2017'deki bir kamu konferansından ve bu yılın mayıs ayında katıldığı bir parlamento duruşmasından alınmıştır.

Taylor-Robinson'ın şikayetinden altı hafta sonra TikTok videoları kaldırdı. "Başlangıçta bazı videoların kurallarını ihlal ettiğini söylediler ancak bazıları kabul edilebilirdi. Bu saçma ve tuhaftı çünkü hepsinde ben vardım ve hepsi deepfaketi."

Güvenilirlik kuruluşunun araştırması, benzer olayların başka sağlık çalışanlarıyla da yaşandığını ortaya koydu. Vakalar giderek daha sık hale geliyor ve çeşitli alanlardan profesyonellerin sahte katılımlı videolarının yayılmasında sosyal medyanın rolü hakkında sorular gündeme getiriyor.

Bu ifşa, sosyal medya devlerinin yapay zeka tarafından üretilen içerikleri barındırma konusunda çok daha dikkatli olmaları yönünde çağrılara yol açarken, uzmanlar şirketleri sahte içerikleri kaldırma konusunda daha hızlı olmaları konusunda uyarıyor.

Bir süre sonra sosyal ağların bu tür sahte videolarla ilgili şikayetlere belirli süreler içerisinde yanıt verme konusunda yasal bir zorunluluğunun ortaya çıkması da ihtimal dahilinde.