Dahi mühendis 'insanlık tehlike altında' deyip istifa etti! Tüm dünya bu yapay zeka savaşını konuşuyor

Yapay zeka dünyasında son dönemde artan rekabet, bu kez sektörün içinden gelen sert bir istifayla gündemde. Daha önce OpenAI'da, son üç yıldır ise Claude'u bünyesinde bulunduran Anthropic'te yapay zeka modellerinin geliştirilmesi üzerine çalışan Jacob Coxon, iki şirketin de insanlığın geleceğini tehlikeye atabilecek bir yarışın içinde olduğunu söyleyerek görevinden ayrıldı. Coxon, artık yapay zeka sektöründe çalışmak istemediğini açıkladı.

OpenAI'dan yapay zeka itirafı: Kimse hazır değil

"SEKTÖRDE ÇALIŞANLAR TEHLİKENİN FARKINDA"

Coxon'a göre şirketler, kendi kendini geliştirebilen ve bir noktada insanlardan çok daha güçlü hale gelebilecek sistemleri ilk geliştiren taraf olmak için yarışıyor. Araştırmacı, bu teknolojinin hafife alınmaması gerektiğini belirterek gelecekte yapay zekaların bilgisayar sistemlerini hackleyebileceği, farklı alanlarda çok hızlı ilerleme sağlayabileceği ve 10 yıl içerisinde bütün insanlığı yok edebilecek seviyeye gelebileceği uyarısında bulundu.

Daha da dikkat çekici olan ise Coxon'ın, yapay zeka geliştiren bazı yönetici ve araştırmacıların bu riskleri gerçekten bildiğini söylemesi. Coxon'a göre sektörde birçok kişi, gelişmiş yapay zekanın önümüzdeki yıllarda insanlık için varoluşsal bir tehdit oluşturabileceğine inanıyor. Ancak şirketler, rakiplerinin gerisinde kalmamak için yarıştan çıkmıyor.

“BAŞKALARI YAPACAKSA BİZ DE YAPMAK ZORUNDAYIZ”

Coxon, OpenAI ve Anthropic arasında önemli bir fark olduğunu düşünse de iki şirketi de eleştirdi. Ona göre OpenAI'daki bazı kişiler yapay zekanın yaratabileceği tehlikenin boyutunu yeterince ciddiye almıyor. Anthropic'te ise riskler daha iyi biliniyor ancak şirket, “başkaları yapacaksa bizim daha sorumlu şekilde yapmamız gerekir” anlayışıyla yarışa devam ediyor.

Araştırmacı bunun son derece tehlikeli bir mantık olduğunu savundu. Çünkü şirketlerden biri yavaşlarsa diğerinin öne geçeceği düşüncesi, herkesin daha hızlı hareket etmesine neden oluyor. Coxon'a göre bu yarışın özel şirketlerin kendi kararlarına bırakılmaması, ülkelerin birlikte hareket etmesi ve gerekirse yapay zeka modellerinin geliştirilmesinde geçici yavaşlamalar uygulanması gerekiyor.

ŞİRKETLERİ KARŞI KARŞIYA GETİREN MATEMATİK KRİZİ

Coxon'ın sözleri, iki şirket arasındaki rekabetin ne kadar ileri gittiğine ilişkin başka bir tartışmanın hemen ardından geldi.

OpenAI'nin onlarca yıldır çözülemeyen Navier-Stokes matematik problemine yönelik bir çözüm geliştirdiğini açıklaması, büyük bir başarı olarak duyuruldu. Ancak açıklama kısa sürede tartışmaya dönüştü. Çünkü New York Üniversitesi'nden matematikçi Tristan Buckmaster ile Anthropic araştırmacısı Levent Alpöge'nin de aynı problem üzerinde çalıştığı ve henüz çalışmalarını kamuoyuna açıklamadan önce önemli bir ilerleme kaydettiği ortaya çıktı.

Buckmaster, OpenAI'nin kendi çalışmalarının kamuoyuna açıklanmasından önce bu araştırmadan haberdar olduğunu ve ardından çok benzer bir yoldan ilerleyerek büyük miktarda bilgisayar gücüyle problemi çözmeye yöneldiğini öne sürdü.

ÇALIŞMALARA GİZLİCE Mİ ERİŞİLDİ?

Şüphelerin en önemli nedeni ise araştırmacıların çalışmalarını OpenAI'nin Codex sistemi üzerinden yürütmüş olması. Buckmaster, çalışmalarının özel Codex oturumlarında bulunduğunu belirterek OpenAI'ye, “Bu oturumlara veya çalışmalarımıza erişildi mi?” sorusunu yöneltti. Tartışma, OpenAI'nin aynı dönemde aynı probleme yönelmesi nedeniyle daha da büyüdü.

OpenAI ise araştırmacıların çalışmalarına veya özel verilerine erişmediğini iddia etti. Şirket, kendi çözümüne Anthropic araştırmacılarının çalışmaları yayımlanmadan önce erişilmediğini belirtti. Ancak OpenAI, ürünlerin kullanımından elde edilen kimliği belirlenemeyen verilerin modellerin geliştirilmesine dolaylı olarak katkı sağlamış olabileceği seçeneğini de tamamen dışlamadı. Şirket ayrıca kendi geliştirdiği çözümün araştırmacıların çalışmasından farklı olduğunu savundu.

ZAMANLAMA DİKKAT ÇEKTİ

OpenAI'nin açıklamasına göre şirket, 1 Eylül'de iki büyük matematik probleminin çözüldüğüne ilişkin bir söylenti duyduktan sonra çalışmaya başladı. Yaklaşık 10 bin yapay zeka ajanının kullanıldığı çalışma sonucunda şirket, Navier-Stokes problemi için bir çözüm geliştirdiğini açıkladı.

Ancak bu açıklama, “OpenAI Anthropic'in özel çalışmalarını mı gördü?” tartışmasını bitirmedi. Şu an için böyle bir erişimi kanıtlayan kesin bir delil bulunmasa da tartışmanın merkezinde, iki tarafın aynı dönemde benzer bir probleme yönelmesi ve OpenAI'nin Anthropic araştırmacılarının çalışmasından haberdar olmasının ardından çok kısa sürede sonuca ulaşması dikkat çekti.

COXON'IN KORKTUĞU YARIŞIN SOMUT ÖRNEĞİ Mİ?

Yaşanan matematik tartışması, Coxon'ın yapay zeka şirketleri arasındaki rekabete ilişkin uyarılarını yeniden gündeme taşıdı. Çünkü burada yalnızca bir matematik problemini kimin önce çözdüğü tartışılmıyor; yapay zeka şirketlerinin sahip olduğu devasa hesaplama gücü ile bağımsız araştırmacıların çalışmaları arasındaki güç farkı da sorgulanıyor.

Coxon ise çok daha büyük bir tehlikeye dikkat çekti. Ona göre bugün matematik problemlerini çözmek için kullanılan sistemler, yarın çok daha geniş yeteneklere sahip olabilir. Bu nedenle süperzekaya giden yolun “nasıl olsa herkes bunu yapacak” düşüncesiyle hızlandırılmaması gerektiğini savunuyor.

Araştırmacının çağrısı net: Tek bir şirketin insanlığın geleceğini etkileyebilecek kadar güçlü yapay zekayı güvenli biçimde geliştirebileceğine güvenilmemeli. Bunun yerine şirketlerin birlikte hareket etmesi, devletlerin daha sert kurallar koyması ve gerekirse yarışın hızının düşürülmesi gerekiyor.