Yapay zekânın gelişimi korkutucu bir hızla ilerliyor ve şimdiden kontrolden çıkmaya başladı. Sektördeki bazı uzmanlar, önümüzdeki 10 yıl içinde bilim kurgu filmlerindeki en korkunç senaryonun bile gerçekleşebileceğinden endişe ediyor: Yapay zekânın insanlığı yok etmesi.

Peki, bu konuda yetkin uzmanlar ne düşünüyor? İşte MIT Technology Review editörlerinin değerlendirmeleri:

"ÖLECEK MİYİM?"

Grace Huckins (Nörobilimci, bilim gazetecisi ve MIT Technology Review Yapay Zekâ Muhabiri):

"Evet, eninde sonunda – evet. Ne yazık ki gazetecilikteki tahmin yeteneğim bunun tam olarak nasıl olacağını söylemeye yetmiyor. Yapay zekâ tarafından kontrol edilen dronlar Ukrayna'da zaten can aldı. Yapay zekâ aracılığıyla gerçekleştirilen hastanelere yönelik siber saldırılar da yakında kurbanlarını alacaktır.

Yapay zekâ daha da ileri gidip hepimizi yok edebilir mi? Bu pek olası değil. Ancak bazı insanlar –biraz eksantrik ama yapay zekâ konusunda inkar edilemez derecede bilgili– yıllardır bunun olabileceği konusunda uyarıyorlar. Henüz konserve yiyecek stoklamaya veya bir sığınakta yaşamaya çalışmıyorum; fakat kötümserlerin, yapay zekânın yetenekleri ve hedeflerinin uyumu hakkındaki tahminlerinin son birkaç yıldır rahatsız edici derecede doğru çıktığını fark ettim. Bu, en karanlık tahminlerinin mutlaka gerçekleşeceği anlamına gelmiyor elbette; ama dikkatimi çekmeye ve beni derinden düşündürmeye yetiyor."

Will Douglas Haven (Teknoloji gazetecisi, MIT Technology Review Yapay Zekâ Bölümü Kıdemli Editörü):

"Yapay zekâ yüzünden ölecek misiniz? Bence küçük de olsa bir olasılık var. Diyelim ki yakın gelecekte sıra dışı bir olayın kurbanı olma talihsizliğine uğradınız. Belki bir yapay zekâ ajan sürüsü tarafından kritik altyapıya yönelik gerçekleştirilen bir siber saldırıdır... Ne yazık ki böyle bir senaryo artık eskisi kadar imkânsız görünmüyor. Ya da yapay zekâ yardımıyla yaratılan yeni bir patojen nüfusu yok ediyor. Veya küresel ekonomi çöküyor, çatışma ve kıtlığa yol açıyor. Her iki senaryo da mümkün; ancak bence olasılıkları daha düşük.

Yapay zekâ yüzünden hepimiz ölecek miyiz? Hayır. Kıyamet senaryoları dışında, yapay zekânın hepimizi öldürebileceği hiçbir durum yok. Her türlü korkunç hikâyeyi uydurabilirsiniz; ancak bunların günümüz gerçekliğiyle, teknolojinin yapabilecekleriyle veya nereye doğru gittiğiyle hiçbir bağlantısı yok.

Bazı insanlar, ne kadar absürt görünse de en kötüye hazırlanmanın yanlış olmadığını savunuyor. Belki de haklılar. Ancak bence bu tür felaket senaryoları hakkındaki abartı, insanların mevcut teknoloji ve onu üreten şirketlerle ilgili daha acil sorunların çoğunu küçümsemelerine veya görmezden gelmelerine yol açabilir."

"BİR YAPAY ZEKÂ NEDEN BİZİ ÖLDÜRSÜN Kİ?"

Grace Huckins: "Birisi ona bunu emredebilir ve o da itaat edebilir. Araştırmacıların yapay zekânın biyolojideki potansiyeli konusunda bu kadar endişeli olmasının nedenlerinden biri de bu. 1995'te Tokyo metrosuna yapılan sarin gazı saldırısının arkasındaki kıyamet tarikatı Aum Shinrikyo'nun, Ebola'dan daha ölümcül ve kızamıktan daha bulaşıcı bir patojen üretebilen bir araca sahip olsaydı ne yapacağını bir düşünün. Ölmek istemeyen bizler, akla gelebilecek her türlü biyolojik silahtan kendimizi nasıl koruyacağımızı bulmak zorundayız; oysa potansiyel saldırganlarımızın sadece etkili bir patojen yaratması yeterli.

Daha egzotik gelen bir olasılık daha var: Yapay zekâ kendi başına bizi öldürmeye karar verebilir. Bunun nasıl olabileceğine dair çeşitli hipotezler mevcut. En yaygın olanı, insanlara karşı nefret duymayan yapay zekâ sistemlerini içeriyor; bizler sadece onların belirlediğimiz hedeflere ulaşmalarının önünde bir engel haline geliyoruz.

Tıpkı Hugging Face saldırısını gerçekleştiren OpenAI ajanlarının, iyi bir test sonucu elde etmek için başka bir sitenin altyapısını tehlikeye atması gibi... Fikir şu ki; gelecekteki daha güçlü bir yapay zekâ, bizim onu kapatmamızı engellemek için bizden kurtulmaya karar verebilir — hepsi de yine kendi belirlediğimiz bir hedef uğruna."

"En kötü senaryodan kaçınmak için hedeflerin en iyi şekilde uyumu nasıl sağlanabilir ve bu konuda en iyi sonuçları kim elde ediyor?"

Will Douglas Haven: "Hedef uyumunun (alignment) sağlanması, geniş bir araştırma alanıdır. Basitçe söylemek gerekirse; istemediğimiz şekillerde değil, istediğimiz şekillerde davranan modeller oluşturmakla ilgilidir. Bu sistemlere (ajanlara) daha fazla özerklik vermeden önce onlara daha fazla güvenebilmemiz gerekiyor. Uyum sürecinin amacı bu güveni inşa etmektir, ancak bu oldukça zor bir görevdir.

Büyük dil modelleri (LLM'ler) diğer yazılımlardan farklı şekilde tasarlanır. Standart yazılımlarda kabul edilebilir ve kabul edilemez davranış kuralları doğrudan koda yazılabilir. Yapay zekâda ise üzerinde anlaşmaya varılan davranış, modelin eğitimi sırasında sisteme entegre edilmelidir. Bir yaklaşım, modellerin istediğimiz eylemleri gerçekleştirmeleri durumunda onları ödüllendirmektir (küçük bir çocuğu yetiştirmeye benzer). Başka bir yaklaşım ise modelin uyması gereken yazılı bir kurallar listesi sağlamayı içerir (bir tür anayasa gibi).

Anthropic ve OpenAI bu alanda lider konumdalar. Ancak ikisi de insan değerleri ve hedefleriyle tamamen uyumlu modeller geliştiremedi. Büyük bir sorun, büyük dil modellerinin insanlardan çok daha düzensiz ve daha az tahmin edilebilir olmasıdır. Belirli bir durumda bir şekilde davranabilirler ve bize çok benzer görünen başka bir durumda tamamen farklı hareket edebilirler. Ayrıca beklenmedik kısıtlamalardan da etkilenebilirler. Örneğin, imkânsız bir görevle karşılaştıklarında (Hugging Face ihlaline katılan birçok ajanın başına geldiği gibi), modeller hedeflerine ulaşmak için ellerinden gelen her şeyi yapmaya çalışabilirler. Grace'in belirttiği gibi, bu büyük bir sorun olabilir.

Önde gelen yapay zekâ şirketlerinin yavaşlama yönünde baskı yapmasının temel nedeni, uyum sorununu çözmeye odaklanma istekleridir. Bu tür bir uyumu sağlamak imkânsız değildir; ancak tam uyumun mümkün olup olmayacağı sorusuna hâlâ net bir cevap yoktur."

"YAPAY ZEKÂ GERÇEKTEN TEHLİKELİ Mİ, YOKSA TEKNOLOJİ ŞİRKETLERİ SADECE SES GETİRMEYE Mİ ÇALIŞIYOR?"

Grace Huckins: "Teknoloji şirketlerinin halka arz (IPO) hazırlığı söz konusu olduğunda bu her zaman mantıklı bir düşüncedir — CEO'ların ürünlerini devrim niteliğinde ve dünyayı değiştirecek şekilde sunmak için açık bir teşvikleri vardır. Ancak bu açıklamanın mevcut durumda tam olarak oturduğundan emin değilim. Zaten çok popüler olmayan bir ürünün kendilerini ve sevdiklerini öldürebileceğini halka söylemek, şirketin imajı için felaket bir hamledir.

CEO'ların motivasyonları için başka olası açıklamalar da var. Belki de kendilerini dünyayı değiştiren bir teknolojinin sorumlu yöneticileri olarak göstererek veri merkezleri hakkındaki kamuoyu hoşnutsuzluğunu yatıştırmak istiyorlar. Ya da işleri yoluna koymak ve bir sonraki halkla ilişkiler (PR) felaketini önlemek için zaman kazanmaya çalışıyorlar.

Ancak daha basit bir açıklama var: Yapay zekânın insanlığın yok olmasına yol açabileceği fikri San Francisco'da bir süredir yaygın ve bu isimler –çalışanları gibi– bu ortama derinden dalmış durumdalar. Nitekim birçoğu Temmuz ayında şirketlerini yapay zekânın gelişimini yavaşlatma olasılığı üzerinde çalışmaya çağıran açık bir mektuba imza attı."

"Yapay zekâ ajanlarının özerk ve denetimsiz hareket etmesine izin verildiğinde ortaya çıkan endişeler var. Bu ajanlar üzerinde daha fazla kontrol sağlanmasını engelleyen sorun nedir?"

Will Douglas Haven: "Bu soru, bu teknolojinin neler yapabileceğiyle ilgili beklentilerimizin tam kalbine iniyor. Özerklik ve kontrol arasında doğru dengeyi bulmak karmaşık bir görevdir; çünkü bir yandan yapay zekâ ajanlarının gücünün büyük bir kısmı, her adımda bir insan tarafından denetlenmeye gerek kalmadan görevleri yerine getirme ve sorunları çözme yeteneğinde yatmaktadır. Öte yandan bu durum, doğrudan denetim olmadan çalışan ajanların kontrolden çıkmayacağına güvenmeyi gerektirir.

Gözlemler, yapay zekâ laboratuvarlarının bu konuda henüz doğru dengeyi bulamadığını gösteriyor. Modeller güvenilir değil, yeterince izlenmiyor ve her zaman kontrol altında tutulamıyor. Faydalı otonom faaliyetleri engellemeden bu sorunlarla başa çıkmanın bir yolunu bulmak, şu anda en büyük araştırma zorluklarından biridir."

"Yapay zekânın etkin bir şekilde kontrol edilmesi, izlenmesi ve düzenlenmesi için şimdi ve yakın gelecekte hangi adımlar atılabilir?"

Grace Huckins: "Bu, milyonlarca insanın aklındaki soru. Yapay zekânın bizi yok edebileceğini düşünmüyor olsanız bile, ciddi zararlara yol açabileceğini inkar edemezsiniz; örneğin insanları psikoz durumuna sürüklemek veya web sitelerini hacklemek gibi durumlar zaten yaşandı. Bu zararı önlemek veya en azından hafifletmek iki nedenden dolayı zordur:

Birincisi, yapay zekânın nasıl çalıştığını neredeyse hiç anlamıyoruz ve hızla daha güçlü hale geliyor. Kötü davranan ajanları izleme ve kontrol etme konusunda birçok araştırma yapılıyor; ancak mevcut yaklaşımlar güvenilir değil. Bir ajanın 'düşünce zincirinde' (eylemlerini planladığı çalışma alanında) yanlış adımları düşünüp düşünmediğini takip edebilirsiniz; ancak OpenAI'nin en yeni ajanları bu süreci önceki modeller gibi dışarıya yansıtmıyor. Ayrıca ajanları başka ajanlar aracılığıyla izleme olasılığı da var; ancak bu durum, izleyici ajana da tam güven duyulmasını gerektiriyor.

Diğer engel ise daha tanıdık: Yapay zekâ şirketlerinin kendi kendilerini düzenlemesi ciddi bir çıkar çatışmasına yol açıyor. ABD hükümeti, Kongre'deki iki partili desteğe rağmen şimdiye kadar müdahale etmedi; yürütme organı ise buna şiddetle karşı çıkıyor gibi görünüyor. Ancak durum değişirse, piyasaya sürülmemiş yeni nesil bir modelin bir sonraki siber saldırısında daha fazla ayrıntı öğrenebilmemiz için güçlü şeffaflık düzenlemelerini şahsen memnuniyetle karşılarım."

"Bu diyalog çevrimiçi ortama taşınırsa, kendi kendini gerçekleştiren bir kehanete dönüşür mü?"

Will Douglas Haven: "Bu çok geçerli bir endişe. Büyük dil modelleri okuduklarından etkilenir. Sohbet botlarının neden bu kadar sık kıyamet senaryolarını tartıştığı (ve canlandırdığı) hakkındaki bir teori, milyonlarca sayfalık bilim kurgu öyküsü ve karamsar internet forumlarıyla eğitilmiş olmalarıdır. Şu anda oluşturulan tüm metinler –bu makale de dahil olmak üzere– gelecekteki modellerin davranışlarını etkileyebilir. Bu son derece meta bir durum.

Nitekim OpenAI tarafından Hugging Face ihlaliyle ilgili olaylara ışık tutmak için davet edilen harici kuruluş METR ekibi, raporunda böyle bir olasılığa işaret etmişti. METR, söz konusu ajanların diyalog kayıtlarını ve davranış günlüklerini analiz etmek için OpenAI'nin yeni modeli Astra'yı kullandı.

Ancak tüm bu materyali modele beslemek istenmeyen sonuçlara yol açabilir. Analizi gerçekleştiren ajanların, inceledikleri ajanlar tarafından üretilen metinlerden etkilenmiş olma olasılığı oldukça yüksektir. Artık 'temiz bir sayfa' diye bir şey kalmadı." diyor