Twitter yakın zamanda, ayrımcılık yaptığı için eleştirilen otomatik fotoğraf kırpma özelliğini kullanıcının inisiyatifine bırakmıştı. Twitter, otomatik fotoğraf kırpma özelliğini kaldırmakla doğru bir karar aldığını gösteren bir araştırmanın sonuçlarını paylaştı. Kullanıcıların geçen yıl siyahların yüzlerinin otomatik kırpma sonrası geri planda kaldığına yönelik iddialarını araştıran Twitter, bu eleştirilerin haklı olduğu sonucuna vardı.

Test edilen bu otomatik algoritmanın gerçekten de siyahlar ve erkeklere karşı ayrımcılık yaptığı ortaya çıktı.

Ön plana çıkarıyor

Araştırmaya göre algoritma beyaz kişileri yüzde 4, kadınları da yüzde 8 oranında daha çok öne çıkarıyordu. Fotoğrafların kırpılan kısımlarında kadınların yüzlerinden çok vücutlarının kadraja alınıp alınmadığı da incelendi ama araştırmaya göre böyle bir durum söz konusu değil.

Sorunların fotoğrafın arka planı ve göz rengi gibi birçok nedenden kaynaklandığını ama bunların hiçbirinin bahane olamayacağının vurgulandığı araştırmada, "Otomatik fotoğraf kırpma algoritması sorunlu çünkü kullanıcının kendi kimlik ve değerlerini ifade etmesini kısıtlayıp aksine fotoğrafın en ilginç kısmının neresi olduğuna dair normatif bir bakış dayatıyor" denildi.

Diğer bir teknoloji devi Amazon, işe alım için ürettiği için yapay zekanın kullanımına cinsiyetçilik yaptığı gerekçesiyle son vermişti.