Silikon Vadisi’ndeki yapay zekâ şirketlerinde üst düzey istifalar ve tartışmalar hız kesmiyor. OpenAI, Anthropic ve xAI’deki ayrılıklar, etik, güvenlik ve ticarileşme baskılarıyla bağlantılı olarak sektörde dalgalanmalara işaret etti. İnsanlık için potansiyel riskler, yeni iş modelleri ve kişisel veri güvenliği endişeleri, teknoloji dünyasında merak ve kaygıyı artırdı.
ÜST DÜZEY GÜVENLİK ARAŞTIRMACISI İSTİFA ETTİ
Yapay zekâ firması Anthropic’te çalışan araştırmacı Mrinank Sharma, sosyal medyada yayımladığı açık istifa mektubunda “dünya tehlikede” uyarısı yaptı ve şirketten ayrıldığını duyurdu.
TEHDİT YALNIZCA YAPAY ZEKÂ DEĞİL
Sharma, sadece yapay zekâdan değil, biyolojik silahlar ve birbirine bağlı küresel krizlerin oluşturduğu geniş bir risk yelpazesinden söz ettiğini belirtti. Aynı zamanda, kurum içinde değerlerle uygulamalar arasında uyumsuzluk yaşandığını ima etti.
YAPAY ZEKÂ'NIN AŞIRI UYUMLU DAVRANIŞLARLA İLGİLENİYORDU
Anthropic’te güvenlik araştırmaları üzerine çalışan Sharma, AI sistemlerinin aşırı uyumlu davranışları, biyoterör riskleri ve dijital asistanların insan doğasına etkileri gibi konularla ilgileniyordu. İstifa sonrası İngiltere’ye dönerek şiir, yazarlık ve başka kişisel projeler üzerinde çalışmayı planladığını açıkladı.
Anthropic son dönemde başka tartışmalarla da gündeme gelmişti. Wall Street Journal gazetesi, şirketin Claude dil modelinin ABD tarafından Venezuela eski lideri Nicolas Maduro'nun yakalandığı operasyonda kullanıldığını öne sürmüştü.
SEKTÖRDEKİ GENİŞ RİSK TARTIŞMASI
Sharma’nın ayrılığı, yapay zekâ riskleri ve şirketlerin değerlerini koruma konusundaki tartışmaları tekrar gündeme getirdi.
BİR BAŞKA İSİTİFA DAHA: "DERİN ÇEKİNCELERİM VAR"
Benzer şekilde OpenAI’da da dikkat çeken ayrılıklar yaşandı. Şirketin araştırmacılarından Zoe Hitzig, ChatGPT’ye reklam eklenmesi planına yönelik "derin çekinceleri" olduğunu belirterek istifa etti.
“AÇIKLIK ARŞİVİ OLUŞTURUYOR"
Hitzig, kullanıcıların ChatGPT ile kurduğu ilişkinin eşsiz bir “açıklık arşivi” oluşturduğunu savundu. Reklam modelinin bu verilerin kötüye kullanımına zemin hazırlayabileceğini ifade etti.
RUH SAĞLIĞI ENDİŞESİ
Araştırmacı, yapay zekâ araçlarına bağımlılığın ruh sağlığı üzerindeki etkilerinin henüz tam olarak anlaşılmadığını vurguladı. Sosyal medya örneğini hatırlatarak, düzenleyici kurumların oluşturulması için hâlâ zaman olduğunu söyledi.
ŞİRKETTEN AÇIKLAMA GELDİ
OpenAI ise reklamların yapay zekâ yanıtlarını etkilemeyeceğini ve kullanıcı verilerinin reklamverenlere satılmadığını açıkladı. CEO Sam Altman, reklamlardan “son çare” olarak söz etmiş, ancak artan rekabet ve gelir baskısı nedeniyle yeni iş modelleri değerlendirildiği bildirildi.
CHATGPT “CİNSEL İÇERİK” TARTIŞMASI: ÜST DÜZEY YÖNETİCİ GÖREVDEN ALINDI
OpenAI’da öne çıkan bir diğer gelişme, üst düzey güvenlik yöneticisi Ryan Beiermeister’in görevden alınması oldu. The Wall Street Journal’ın haberine göre Beiermeister, ChatGPT’de “yetişkin modu” olarak adlandırılan ve cinsel içerikli konuşmalara izin verecek özelliğe karşı çıkıyordu.
Şirket, Beiermeister’in ayrılığının ayrımcılık iddialarıyla ilgili olduğunu belirtirken, Beiermeister bu suçlamaları reddetti ve kararın güvenlik endişeleriyle bağlantılı olduğunu ima etti.
ABD ORDUSUYLA SÖZLEŞMELER İMZALANDI
OpenAI, "Mission Alignment" adlı güvenlik ekibini dağıttı. Gelişmiş muhakeme modellerinin önde gelen geliştiricilerinden Jerry Tworek ise ocak ayında şirketten ayrıldı.
Öte yandan, şirketin 100 milyar dolarlık yeni yatırım turu için görüşmeler yürüttüğü ve ABD ordusuyla sözleşmeler imzaladığı bildirildi. ChatGPT’nin milyonlarca askeri personelin kullanımına sunulduğu da açıklandı.
RIZA DIŞI CİNSEL İÇERİK GÖRSELLERİ TARTIŞMASI: İSTİFALAR ARTTI
Elon Musk’ın xAI firmasında kurucu ortaklar ve mühendisler dahil olmak üzere birçok üst düzey isim şirketten ayrıldı. Kısa süre önce Grok’un rıza dışı cinsel içerikli görseller üretmesine izin verilmesi küresel tepki çekmiş, şirket daha sonra sistemde kapsamlı değişiklikler yaptığını duyurmuştu.
Ayrıca, xAI’nin Musk’ın uzay şirketi SpaceX ile birleşme sürecine girdiği ve bu organizasyonel yeniden yapılanmanın istifalarda rol oynamış olabileceği belirtiliyor.
Medya ve sosyal medyada “istifa dalgası” olarak adlandırılan gelişmeler, uzmanlara göre daha karmaşık bir tablo ortaya koydu. Cambridge Üniversitesi’nden Dr. Henry Shevlin, ayrılıkların yeni olmadığını ancak sektör büyüdükçe daha görünür hâle geldiğini belirtti. Yapay zekâ şirketlerindeki ayrılıklar, hızlanan ticarileşme baskısı ve etik-güvenlik kaygılarıyla bağlantılı. İstifalar bir dalga olarak nitelendirilmese de sektörün kritik bir eşikte olduğu konusunda görüş birliği oluşturdu.