Yapay zeka Avrupa'da terörist avına çıkıyor

Yapay zeka Avrupa'da terörist avına çıkıyor

Avrupa Birliği (AB), yapay zeka uygulama alanlarını sınırlandırdı. Çok önemli durumlarda terör saldırısı, çocuk kaçırma ve güvenliği ilgilendiren durumlarda yapay zekalar devreye alınabilecek.

Haber Giriş: 21.04.2021 - 17:39  |  Haber Güncelleme: 21.04.2021 - 20:46

AB Komisyonu, yapay zeka ile ilgili kurallar çerçevesini içeren dünyadaki ilk yasal düzenleme teklifini açıkladı. Buna göre, yapay zeka sistemleri 'kabul edilemez risk', 'yüksek risk', 'sınırlı risk' ve 'minimum risk' olmak üzere dört ana gruba ayrıldı.

Yapay zeka için 4 risk kademesi

Teklifte öncelikle insanların güvenliği, geçim kaynakları ve haklarına ilişkin açık tehdit olduğu düşünülen türdeki yapay zeka sistemleri 'kabul edilemez' risk grubunda yer aldı ve bunların kullanımı yasaklandı.

İnsan davranışlarını manipüle eden, özgür iradeyi önleyen, hükümetler tarafından sosyal puanlama yapılmasını sağlayan uygulamalar ve yapay zeka sitemleri 'kabul edilemez' risk grubuna dahil olacak. 

Yüksek risk grubunda ise ulaştırma gibi kritik altyapı, eğitim, robotlu ameliyat, işe alım sürecinde CV değerlendirme, kredi derecelendirmesi, delil güvenliği, göç, iltica ve sınır yönetimi, seyahat belgelerinin doğrulanması, yargı ile demokratik süreçler sıralandı.

Bu gruptaki yapay zeka sistemlerinin piyasaya sunulmadan önce uyması gereken sıkı yükümlülükler getirildi.

Bu sistemlerin ayrımcılık yapması engellenecek, sonuçların izlenebilir olması sağlanacak ve yeterli ölçüde insan gözetimine tabi tutulacak.

Bütün biyometrik kimlik saptama sistemleri katı koşullar içeren yüksek risk grubuna dahil edildi.

Özel durumlarda kullanılabilecek

Emniyet yetkilileri halka açık alanlarda yapay zeka ile tanımlama yapan biyometrik kimlik saptama sistemleri yasa kapsamında özel durumlarda kullanabilecek. Terör tehdidini önlemek, kayıp çocukları aramak, ciddi bir suçu kavuşturmak veya bir şüpheliyi tespit etmek için biyometrik kimlik tespit sistemleri bu özel durumlara dahil. Yapay zeka sistemleri bu tür kullanımları sınırlı olacak ve adli veya bir başka bağımsız kuruluşun izine tabi tutulacak.

Sohbet robotları ve oyunlar

Sınırlı risk grubunda yer alan yapay zeka sistemleri ise bazı şeffaflık yükümlülüğüne tabi olacak. Kullanıcıların bu grupta yer alan 'sohbet robotları' ile görüşme yaparken bir makine ile etkileşimde bulunduklarının farkında olması ve bilinçli karar almaları sağlanacak.

Yapay zeka destekli video oyunları veya istenmeyen e-posta filtreleri gibi uygulamalar minimum risk grubunda yer aldı. Vatandaşların hakları veya güvenliği için minimum veya hiç risk içermeyen bu gruptaki yapay zeka sistemlerine müdahale edilmedi.

 

 

Avrupa Yapay Zeka Kurulu

 

 

Söz konusu yapay zeka alanında denetim sorumluluğu ve yetki ulusal makamlarda olacak. Bu alanda uygulama ve standartların geliştirilmesi amacıyla Avrupa Yapay Zeka Kurulu oluşturulacak.

Söz konusu düzenleme teklifinin yürürlüğe girmesi için Avrupa Parlamentosu (AP) ve üye ülkelerin onayı gerekiyor. Düzenleme yasalaştığında, AB ülkelerinde faaliyet gösteren ABD teknoloji şirketlerinin faaliyetleri de sınırlandırılmış olacak.