Yapay zeka 30 yıl içinde insanlık için bir tehdit haline gelebilir hatta onu yok edebilir

DEEPMİND TEHLİKELİ BİR SENARYOYU ÖNLEMEK İÇİN ÜÇ ADIM SUNUYOR

Şirket uzmanları, 2030 yılına kadar insan seviyesinde yapay zekanın, yani genel yapay zekanın ortaya çıkacağını öngörüyor. Karmaşık problemleri çözmek veya yeni şeyler öğrenmek gibi yetişkin seviyesindeki her türlü zihinsel görevi yerine getirebilen bir sistemdir.

DeepMind'ın kurucu ortağı Shane Legg'in de aralarında bulunduğu raporun yazarları, güvenlik önlemleri alınmazsa böyle bir yapay zekanın insanlık için bir tehdit haline gelebileceği, hatta onu yok edebileceği konusunda uyarıyor.

DeepMind, AGI'nin insan müdahalesi olmadan kendini geliştirme becerisini öğrenebileceğini ve kendisinin daha akıllı versiyonlarını yaratabileceğini vurguluyor. Bu durum endişe vericidir çünkü böyle bir süreç kontrolden çıkabilir.

Şirket böyle bir senaryonun önüne geçmek için üç adım öneriyor:

• Saldırganların yapay zekaya erişimini kısıtlamak;
• Yapay zeka kararlarının anlaşılır olmasını sağlamak;
• Güvenli bir çalışma ortamı yaratmak.

Güvenlik teknolojileri hala geliştirilmekte olsa da DeepMind, risklerden korunmak için şimdiden önlemler alınması gerektiğine inanıyor.

Ancak uzmanlar yapay zekayı kontrol edebileceğimiz konusunda şüpheliler. Bazıları AGI fikrinin çok belirsiz olduğunu söylerken, diğerleri ise yapay zekanın "halüsinasyon" sorununa işaret ediyor: Yapay zeka kötü veriler oluşturuyor, bunlardan ders çıkarıyor ve yanlış bilgi yayıyor.