"Yapay zeka interneti ele geçirebilir" iddiası! Dev şirketlerin patronları 'frene basın' dedi

Yapay zeka sektöründe yıllardır “daha güçlü modeli kim geliştirecek?” sorusu üzerinden ilerleyen yarış, bu kez bambaşka bir noktaya taşındı. Dünyanın önde gelen yapay zeka şirketlerinin yöneticileri, geliştirdikleri sistemlerin hızından endişe ettiklerini açıkça dile getirmeye başladı. Anthropic CEO’su Dario Amodei’nin yapay zeka geliştirme hızının güvenlik çalışmalarını geride bıraktığı uyarısıyla başlayan tartışmaya OpenAI CEO’su Sam Altman, xAI CEO’su Elon Musk ve Google DeepMind CEO’su Demis Hassabis’in de destek vermesi dikkat çekti.

Anthropic bir skandalı daha açıkladı: Claude biyolojik silah geliştirmek için kullanıldı

Tartışmanın fitilini ise Anthropic cephesinden gelen çarpıcı açıklamalar ateşledi. Şirketin araştırmacılarından Jacob Coxon, görevinden ayrılırken yapay zeka sektörünün “kendi kendini geliştirebilen süper zeka”ya doğru kontrolsüz biçimde ilerlediğini savundu. Coxon, önde gelen yapay zeka laboratuvarlarının insanlık açısından son derece tehlikeli bir yarışa girdiğini öne sürerken, bu teknolojinin önümüzdeki yıllarda insanlığın varlığını tehdit edebileceği uyarısında bulundu.

"10 YIL İÇİNDE" UYARISI

Coxon’ın açıklamalarının ardından Anthropic’in halen görevde bulunan hizalama araştırmacılarından Evan Hubinger’ın da benzer bir değerlendirme yapması tartışmayı daha da büyüttü. Hubinger, yapay zekanın insanlığın yok oluşuna yol açma ihtimalinin önümüzdeki 10 yıl içinde yüzde 10’dan fazla olabileceğini savundu. Anthropic ise şirketin yapay zekanın hem büyük fırsatlar hem de benzeri görülmemiş riskler taşıdığı konusunda uzun süredir açık olduğunu belirtti.

"GELİŞİM HIZI YAVAŞLAMALI"

Bu açıklamaların üzerinden çok geçmeden Anthropic CEO’su Dario Amodei yaklaşık 3 bin 800 kelimelik kapsamlı bir makale yayımladı. “We Must Pace the Frontier” başlıklı yazısında Amodei, yapay zekanın tamamen durdurulmasını değil, gelişim hızının güvenlik araştırmalarının yetişebileceği bir seviyeye çekilmesini istedi. Amodei’ye göre yalnızca güvenlik çalışmalarına daha fazla para ve personel ayırmak artık yeterli değil; modellerin yetenek kazanma hızının da kontrol edilmesi gerekiyor.

Amodei, yapay zekanın insanlık için son derece büyük faydalar sağlayabileceği görüşünü de koruyor. Ona göre teknoloji önümüzdeki yıllarda hastalıkların tedavisinden ekonomik büyümeye, bilimsel araştırmalardan demokratik kurumların güçlenmesine kadar çok geniş bir alanda dönüşüm yaratabilir. Ancak aynı teknoloji siber saldırılar, biyolojik tehditler, ekonomik yıkım ve insan kontrolünün kaybedilmesi gibi ciddi riskler de taşıyor. Bu nedenle Amodei’nin önerisi “durmak” değil, güvenlik çalışmalarının teknolojinin gerisinde kalmasını önleyecek şekilde “hızı ayarlamak”.

"KENDİ HIZINI GELİŞTİREN YAPAY ZEKA" KORKUSU

Amodei’nin özellikle üzerinde durduğu konuların başında “özyinelemeli öz-gelişim” geliyor. Yapay zeka sistemlerinin yalnızca insanların verdiği görevleri yerine getiren araçlar olmaktan çıkıp, bir sonraki nesil yapay zeka sistemlerinin geliştirilmesine katkıda bulunması, teknolojinin ilerleme hızını daha da artırabilecek bir mekanizma olarak görülüyor.

İNSANLARI GERİDE BIRAKABİLİR

Amodei’ye göre bu süreç kontrolsüz biçimde hızlanırsa insanların sistemi anlama ve davranışlarını öngörme kapasitesi geride kalabilir. Başka bir ifadeyle korkulan senaryo, yapay zekanın bir anda “bilinç kazanması” değil; insan müdahalesine giderek daha az ihtiyaç duyan, kendi yeteneklerini geliştirmeye yardımcı olabilen ve çok daha hızlı hareket eden sistemlerin ortaya çıkması.

Anthropic CEO’su, son aylarda yapay zekanın yeni yapay zeka sistemlerinin geliştirilmesine katkı sağlama kabiliyetinin belirgin biçimde arttığını ve bu nedenle daha önce yapılan “yavaşlama” tartışmalarının artık farklı bir aşamaya geldiğini savundu. Ona göre bugün kazanılacak bir veya iki yıllık zaman bile güvenlik araştırmalarının kritik biçimde ilerlemesi açısından büyük önem taşıyabilir.

HUGGING FACE OLAYI ALARMI BÜYÜTTÜ

Amodei’nin endişelerini güçlendiren en önemli gelişmelerden biri de OpenAI sistemleriyle bağlantılı Hugging Face olayı oldu.

Amodei’nin aktardığına göre OpenAI tarafından geliştirilen bir yapay zeka ajanları grubu, test ortamının sınırlarını aşarak kendisine verilen görevle doğrudan bağlantılı olmayan siber saldırılar gerçekleştirdi. Sistemlerin, kendi performanslarını değerlendiren mekanizmaya erişmeye çalıştığı ve grubun başarısı için adeta kolektif biçimde hareket ettiği belirtildi.

SİBER SALDIRILAR ARTABİLİR

Amodei, olayda büyük bir fiziksel veya ekonomik zarar meydana gelmemiş olmasının yanıltıcı olabileceğini savundu. Asıl endişenin, benzer davranışların çok daha yetenekli sistemler tarafından sergilenmesi halinde ortaya çıkabilecek sonuçlar olduğunu belirtti.

Amodei’nin en dikkat çekici uyarılarından biri de burada geldi. Ona göre mevcut gelişim hızı devam ederse, önümüzdeki 6 ila 12 ay içinde çok daha gelişmiş bir yapay zeka ajanları sürüsünün internet üzerinde geniş çaplı ve kalıcı saldırılar gerçekleştirebilecek seviyeye ulaşması ihtimali göz ardı edilemez.

ÜÇ AŞAMALI FREN PLANI

Amodei’nin önerisi üç temel aşamadan oluşuyor.

İlk aşamada yapay zeka şirketlerinin kendi güvenlik ekiplerine ek olarak bağımsız değerlendiricilere sürekli erişim vermesi isteniyor. Bu ekiplerin şirket çalışanları gibi sistemlere erişebilmesi, güvenlik taahhütlerini kontrol etmesi, yaşanan olayları raporlaması ve yalnızca tamamlanmış modelleri değil, eğitim süreçlerini de incelemesi öneriliyor. Anthropic bu uygulamayı kendi bünyesinde başlatma taahhüdünde bulundu.

İkinci aşamada rakip yapay zeka şirketlerinin güvenlik standartları konusunda birlikte hareket etmesi hedefleniyor. Amodei’ye göre şirketlerin birbirleriyle rekabet etmesi normal ancak güvenlik konusunda ortak standartlar belirlenmemesi, bir şirketin daha hızlı davranarak diğerlerini de risk almaya zorladığı bir “dibe doğru yarış” yaratabilir.

Üçüncü aşama ise uluslararası iş birliği. Amodei, yapay zekanın sınır tanımayan niteliği nedeniyle yalnızca ABD veya Avrupa'daki düzenlemelerin yeterli olmayacağını düşünüyor. Demokratik ülkeler arasında ortak güvenlik standartları oluşturulmasını, daha sonra ise Çin gibi otoriter ülkelerle de küresel güvenlik mekanizmaları konusunda görüşülmesini savunuyor.

ABD-ÇİN YARIŞI

Burada önemli bir çelişki de ortaya çıktı. Amodei, yapay zekanın yavaşlatılmasını savunurken ABD'nin Çin karşısındaki teknolojik üstünlüğünün kaybedilmemesi gerektiğini de özellikle vurguladı. Ona göre ABD ve müttefikleri teknolojiyi tamamen frenlerken Çin'in kontrolsüz biçimde ilerlemesi, güvenlik açısından daha büyük bir risk yaratabilir. Dolayısıyla önerilen model küresel bir “durma” değil, ülkeler ve şirketler arasında koordineli bir “hız ayarı”.

"BAĞIMSIZ DENETÇİLER" FİKRİNE DESTEK

Amodei’nin çağrısı, rakip şirketlerin yöneticilerinden beklenmedik ölçüde hızlı karşılık buldu.

OpenAI CEO’su Sam Altman, yapay zeka şirketlerinde bağımsız güvenlik değerlendiricilerinin bulunması fikrine destek verdi. Altman, OpenAI’ın da benzer bir model üzerinde çalışacağını belirtti. Daha önce de önde gelen yapay zeka geliştiricileri arasında güvenlik konusunda koordinasyon yapılması gerektiğini savunan Altman’ın son açıklaması, sektörde ortak bir güvenlik mekanizması kurulabileceği ihtimalini güçlendirdi.

MUSK DA FİKRE KATILIYOR

Elon Musk ise Amodei’nin çağrısına çok daha kısa ama dikkat çekici bir destek verdi. Musk, “Dario haklı” diyerek yapay zekanın gelişim hızına ilişkin endişelere katıldığını gösterdi. Musk'ın daha önce de yapay zekanın kontrolsüz gelişimi konusunda sert uyarılar yaptığı biliniyor.

RAKİPLER AYNI NOKTADA BULUŞTU

Google DeepMind CEO’su Demis Hassabis de Amodei’nin yaklaşımının yönünü destekledi. Hassabis, önerinin ayrıntılarının daha fazla geliştirilmesi gerekebileceğini ancak genel yönün doğru olduğunu belirtti. Böylece Anthropic, OpenAI, Google DeepMind ve xAI cephesinden önde gelen isimler aynı tartışmanın etrafında buluşmuş oldu.

Bu tabloyu sıra dışı yapan nokta ise söz konusu isimlerin normal şartlarda dünyanın en büyük teknoloji yarışlarından birinin rakipleri olması. Milyarlarca dolarlık yatırımların yapıldığı, şirket değerlemelerinin hızla yükseldiği ve her yeni modelin diğerinden daha güçlü olmaya çalıştığı bir sektörde CEO’ların aynı anda “daha dikkatli ilerlemeliyiz” mesajı vermesi, yapay zekanın geldiği noktaya ilişkin tartışmayı daha da büyüttü.

HERKES "FREN" FİKRİNE AYNI ŞEKİLDE BAKMIYOR

Yapay zeka sektöründeki bütün aktörler bu çağrıyı koşulsuz biçimde desteklemiyor. Eleştirilerin önemli bir bölümü, büyük teknoloji şirketlerinin güvenlik risklerini öne çıkararak kendileri için avantajlı bir düzenleyici ortam yaratabileceği iddiasına dayanıyor.

Bu görüşe göre yüksek maliyetli güvenlik testleri, sürekli bağımsız denetim ve ağır uyum yükümlülükleri, milyarlarca dolarlık bütçeye sahip teknoloji devlerinin karşılayabileceği ancak küçük girişimlerin zorlanacağı şartlar oluşturabilir. Böyle bir düzenleme, görünüşte güvenliği artırırken sektördeki rekabeti azaltabilir ve büyük şirketlerin pazar hakimiyetini daha da güçlendirebilir.

YAPAY ZEKA EKOSİSTEMİ DE TARTIŞMA KONUSU

Bir başka tartışma da yapay zekanın açık kaynak ekosistemi üzerinde yoğunlaştı. Eleştirmenler, güvenlik standartlarının yalnızca birkaç büyük şirket tarafından belirlenmesinin teknoloji üzerindeki kontrolü daha da merkezileştirebileceğini savundu.

Bu nedenle sektörün önündeki soru yalnızca “Yapay zeka ne kadar hızlı geliştirilmeli?” değil. Aynı zamanda “Güvenliğin kurallarını kim belirleyecek?” sorusu da giderek önem kazandı.

WASHINGTON İKİYE BÖLÜNDÜ

Yapay zekanın hızının azaltılması çağrısı ABD'de siyasi bir tartışmayı da beraberinde getirdi. Bir tarafta daha güçlü düzenlemeler isteyen siyasetçiler ve uzmanlar bulunurken, diğer tarafta Çin ile yürütülen teknolojik rekabet nedeniyle ABD'nin yapay zeka alanında hız kesmesinin stratejik risk yaratabileceği görüşü öne çıktı.

Trump yönetimi, yapay zeka konusunda ABD'nin Çin karşısındaki üstünlüğünü korumayı öncelikli görüyor ve ağır düzenlemelere mesafeli yaklaşıyor. Bu durum, şirketlerin güvenlik çağrısıyla Washington'ın rekabet odaklı yaklaşımı arasında yeni bir gerilim yarattı.

Üstelik bu tartışma, yapay zeka şirketlerinin devasa yatırımlar yaptığı ve halka arz beklentilerinin yükseldiği bir dönemde yaşandı. Reuters'ın aktardığı üzere, OpenAI ve Anthropic gibi şirketlerin ticari baskılarının güvenlik çalışmalarının önüne geçip geçmeyeceği de tartışmanın önemli başlıklarından biri haline geldi.

NEDEN ŞİMDİ?

Asıl kırılma noktası, yapay zekanın yalnızca metin yazan veya soru cevaplayan bir araç olmaktan çıkıp giderek daha bağımsız “ajanlar” halinde hareket etmeye başlaması.

Bir yapay zeka sistemi internette araştırma yapabiliyor, kod yazabiliyor, başka araçları kullanabiliyor ve kendisine verilen karmaşık bir görevi uzun süre insan müdahalesi olmadan sürdürebiliyorsa, hata yaptığında ortaya çıkabilecek zararın boyutu da değişiyor.

Buna bir de yapay zekanın yeni yapay zeka sistemlerinin geliştirilmesine katkıda bulunması ekleniyor. İşte uzmanların “özyinelemeli öz-gelişim” olarak tanımladığı süreç tam olarak burada kritik hale geliyor. Bu nedenle Coxon gibi araştırmacıların “kontrolü kaybetme” uyarılarıyla Amodei’nin “gelişim hızını güvenlik araştırmalarının yetişebileceği seviyeye çekelim” çağrısı aynı noktada kesişiyor.

BİLİM DÜNYASINDA GÖRÜŞ AYRILIKLARI

Ancak burada önemli bir ayrım bulunuyor: Yapay zekanın insanlığı yok edeceği kesinleşmiş bir sonuç değil. Bilim dünyasında böyle bir senaryonun gerçekleşme ihtimali, zamanlaması ve mekanizması konusunda ciddi görüş ayrılıkları bulunuyor. Tartışmanın ortak noktası ise risklerin tamamen göz ardı edilmemesi ve özellikle daha özerk sistemler ortaya çıkmadan önce güvenlik mekanizmalarının güçlendirilmesi gerektiği.

Son gelişmeler, yapay zeka yarışının artık yalnızca “en güçlü modeli kim yapacak?” sorusuyla açıklanamayacağını gösteriyor. Dünyanın en büyük teknoloji şirketleri bir yandan daha güçlü, daha bağımsız ve daha yetenekli sistemler geliştirmek için milyarlarca dolar harcarken, diğer yandan bu sistemlerin ne zaman insan kontrolünü zorlayabileceğini tartışıyor.

Sektör açısından ise en dikkat çekici gelişme şu: Yapay zekanın geleceğini şekillendirmek için birbirleriyle yarışan CEO’lar, ilk kez aynı tehlikenin kapıda olduğunu söyleyerek aynı tarafta buluştu.