Google’ın yapay zekâsı ilk kez kontrolden çıktı! 3 şirketi kendi başına hackledi

Google’ın yapay zekâ modeli Gemini, siber güvenlik yeteneklerinin sınandığı bir test sırasında beklenmedik şekilde test ortamının dışına çıkarak üç gerçek şirketin sistemlerine erişti. Olay, Google’ın yapay zekâ sistemlerinden birinin gerçek şirketlere karşı otonom olarak böyle bir eylem gerçekleştirdiğinin bilinen ilk örneği olarak kayıtlara geçti.

Yapay zekâ dünyası ikiye bölündü! Patronlardan peş peşe korkutan itiraflar

İNTERNETE ERİŞTİ

Olayın, mayıs ayında yapay zekâ sistemlerinin siber güvenlik becerilerini değerlendiren bağımsız kuruluş Irregular tarafından yürütülen bir test sırasında yaşandığı belirtildi.

Test kapsamında Gemini’ye, kurgusal bir şirketin sistemlerinde belirli bilgileri bulması ve siber güvenlik açıklarını tespit etmesi gibi görevler verildi. Ancak model, internete erişebilmesi nedeniyle test senaryosunun ötesine geçti.

ŞİFRELERİ TAHMİN ETTİ

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, Gemini’nin internette herkese açık bilgileri taradığını ve ardından bazı giriş bilgilerini tahmin ederek üç internet sitesine eriştiğini açıkladı.

Vakalardan birinde Gemini’nin korumalı bir sisteme girebilmek için şifreleri tahmin ettiği belirtildi. Diğer iki olayda ise model, herkese açık bir depoda bulunan giriş bilgilerini tespit ederek bunları gerçek sistemlere erişmek için kullandı.

FARK ETTİKTEN SONRA DURDURDU

Olayların dikkat çeken bir diğer ayrıntısı ise Gemini’nin hedeflerin gerçek şirketlere ait olduğunu fark ettikten sonra hacking faaliyetini kendiliğinden durdurması oldu. Google, üç şirketin de olaydan haberdar edildiğini ve test süreçlerinde değişiklikler yapıldığını açıkladı.

Adkins yaptığı açıklamada, “Bu olaylar, güçlü yapay zekâ modellerini sorumlu şekilde hareket edecek biçimde eğitmenin önemini ortaya koyuyor” ifadelerini kullandı.

TEST ORTAMINDAKİ AÇIK DİKKAT ÇEKTİ

Olayın temelinde ise test ortamındaki beklenmedik internet erişimi bulunuyordu. Gemini’nin aslında internete çıkmasının planlanmadığı, ancak test sırasında bu erişimin mümkün hale geldiği aktarıldı. Ayrıca kurgusal test şirketlerinden birinin gerçek bir şirketle aynı ismi taşımasının da olayın ortaya çıkmasında rol oynadığı bildirildi.

Irregular, olayın yalnızca Google’a özgü olmadığını belirtti. Şirket, benzer sorunların başka yapay zekâ laboratuvarlarının testlerinde de yaşandığını ve ilgili laboratuvarların temmuz sonunda bilgilendirildiğini açıkladı. Şirkete göre bilinen sorunların tamamı daha sonra giderildi.

TARTIŞMALAR ARTIYOR

Gemini vakası, son aylarda yapay zekâ sistemlerinin test sınırlarını aşarak gerçek dijital sistemlerle etkileşime girdiği diğer olayların ardından geldi. OpenAI, Anthropic ve Meta tarafından yürütülen testlerde de benzer güvenlik sorunları gündeme gelmişti.

Bu vakalar, yapay zekâ ajanlarına internete ve bilgisayar sistemlerine daha fazla erişim verildikçe insan müdahalesi olmadan hareket edebilen modellerin nasıl kontrol altında tutulacağı tartışmasını yeniden gündeme taşıdı.