Google'ın Android işletim sistemi üzerinde bulunan Google Play Store'da yapay zeka destekli fotoğraf oluşturma uygulamaları oldukça popüler hale geldi. Ancak, fotoğraf oluşturma uygulamalarının güvenlik politikaları çiğnenerek müstehcen içerikli fotoğrafların oluşturulması bir sorun teşkil ediyor.

Yapay zeka destekli uygulamaları kullanan kullanıcılar, uzun süredir bu durumdan şikayetçi. Basit bir fotoğraf oluştururken dahi, yapay zeka sapık içerikli fotoğraflar üretebiliyordu. Bu konuda, Google geliştiricilere, kullanıcı güvenliği ve gizliliğine saygı duyduklarından emin olmaları için yapay zeka araçlarını ve modellerini "titizlikle test etmeleri" gerektiğini bildiriyor.

MÜSTEHCEN REKLAMLAR NASIL KAPATILIR?

Google'ın yeni kılavuzunda, sosyal medya veya arama motorlarında yayınlanan reklamların artık hırsızlık veya müstehcen içerikli olmaması gerektiği vurgulanıyor. Eğer reklam metni ya da reklam fotoğrafları uygulamanın böyle bir müstehcen içerikleri yapabileceğini ima ediyorsa, uygulama böyle bir durumu gerçekten yapabilse ya da yapmasa Google Play'den yasaklanabilir.

DEEPFAKE CİNSEL İÇERİKLER

Nisan ayında 404 Media tarafından yayınlanan bir raporda, Instagram'ın yapay zeka kullanarak deepfake cinsel içerikli fotoğraflar ürettiğini iddia eden uygulamaların reklamlarına ev sahipliği yaptığı tespit edilmişti. Bir uygulama, Kim Kardashian'ın bir fotoğrafını kullanarak ve "Herhangi bir kızı ücretsiz soyun" sloganıyla kendini tanıtarak bu tür bir pazarlama stratejisi izliyordu.

UYGULAMALARI MAĞAZALARINDAN KALDIRDI

Apple ve Google bu duruma hızlı bir şekilde müdahale ederek uygulamayı mağazalarından kaldırdı. Ancak, farklı uygulama geliştiricileri, bu tür pazarlama yöntemlerini fark edilmeden kullanmaya devam ediyor.

OKULLARDA TACİZ FOTOĞRAFLARI SKANDALI

Okullar, ABD'de, öğrencilerin zorbalık ve taciz amaçlı olarak diğer öğrencilerin (bazen de öğretmenlerin) yapay zeka ile müstehcen fotoğraflarını yaymaları gibi sorunlarla karşı karşıya. Geçtiğimiz ay, bir okul müdürünün ırkçı bir yapay zeka fotoğrafı Amerika'da bir tutuklamaya yol açtı. Bu tür sorunlar, zaman zaman ortaokul düzeyinde öğrencileri de etkileyebiliyor.

PEKİ GOOGLE MÜSTEHCEN FOTOĞRAFLARI ENGELLEYEBİLİR Mİ?

Google, politikalarının, kullanıcılar için uygunsuz veya zararlı olabilecek yapay zeka tarafından oluşturulan içerikleri Google Play Store'den uzak tutmaya yardımcı olacağını belirtiyor. Google Play'de uygulama onayı için gereksinimlerini kontrol edebileceğiniz bir yer olarak mevcut yapay zeka tarafından oluşturulan içerik politikasını detaylı bir şekilde okunmasını istiyor.

Şirket, yapay zeka uygulamalarının kısıtlanmış içerik oluşturmasına izin vermemekle birlikte, aynı zamanda kullanıcılara saldırgan ve uygunsuz içeriği işaretlemenin yanı sıra bu geri bildirimi izlemenin ve önceliklendirmenin bir yolunu sunması gerektiğini belirtiyor. Bu, özellikle popüler modellerin daha yüksek veya daha belirgin bir şekilde sıralandığı uygulamalar gibi kullanıcı etkileşimlerinin içeriği ve deneyimi şekillendirdiği uygulamalarda önemli bir husus.

Geliştiricilerin, uygulamalarını yapay zeka özelliklerini zararlı ve saldırgan içerik oluşturmak için manipüle edebilecek istemlere karşı korumaktan sorumlu olduğunu vurgulayan Google, geliştiricilerin geri bildirim almak üzere uygulamalarının ilk sürümlerini kullanıcılarla paylaşmak için kapalı test özelliğini kullanabileceklerini ifade ediyor.

Google, geliştiricilerin sadece piyasaya sürmeden önce test etmelerini değil, aynı zamanda bu testleri belgelemelerini şiddetle tavsiye ediyor, çünkü gelecekte Google'ın bu testleri gözden geçirmesi gerekebilir. Şirket ayrıca, yapay zeka uygulamaları geliştiren geliştiricileri desteklemeyi amaçlayan kaynaklar ve en iyi uygulamaları içeren rehberler gibi başka kaynaklar da sağlıyor.